Tech

Megtiltja az MI-modellje sértegetését az Anthropic

Matteo Della Torre/NurPhoto via Getty Images
Az Anthropic MI szoftvere, a Claude.
Matteo Della Torre/NurPhoto via Getty Images
Az Anthropic MI szoftvere, a Claude.

Frissítette a szabályzatát a világ egyik legnagyobb MI-cége, az Anthtopic. Ennek eredményeként november közepétől többek között szigorúbb szabályok vonatkoznak majd az egészségügyi és a gazdasági kérdésekre is, ahogy a politikai tartalmakra is – írja a TechCrunch.

A leglátványosabb változtatás azonban az, hogy megtiltják a modellek sértegetését.

Ez nem azt jelenti, hogy a felhasználók ne vitathatnák a Claude válaszait vagy ne fejezhetnék ki frusztrációjukat egy esetleges hibás felelettel kapcsolatosan. A cég közlése szerint azonban a „tartós és szükségtelen bántalmazó vagy kegyetlen viselkedésnek” véget akarnak vetni.

Ez a lépés egy korábbi szigorítás kiterjesztéseként is értelmezhető, amely arról szólt, hogy amikor ilyen abuzív viselkedést tapasztalt a chatbot, szimplán lezárta a beszélgetést. Azt nem tudni, hogy az ismétlődő eseteknél várható-e valamilyen büntetés kiszabása – például a felhasználói fiók felfüggesztése.

A HVG ezentúl kiemelte: a frissített szabályzat tiltja az olyan felhasználói magatartást is, amely egy másik ember számára okozhat mentális problémát. Ez magába foglalja többek között az önkárosítással, az étkezési zavarok népszerűsítésével, a zaklatással, az állatkínzással és egyéb hasonló tevékenységgel kapcsolatos beszélgetéseket is.

Kapcsolódó
Dario Amodei wearing glasses and a dark suit speaks into a microphone at a press conference against a blue backdrop.
Lassítaná a mesterséges intelligencia fejlesztését az Anthropic vezére
A kezdeményezéssel Sam Altman és Elon Musk is egyetért.
Itt állíthatod be, hogy a Google kereső elöl hozza a 24.hu-s találatokat

Ajánlott videó

Nézd meg a legfrissebb cikkeinket a címlapon!
Olvasói sztorik