A veszélyesen hízelgő ChatGPT frissítést visszavonták

Az OpenAI nemrégiben visszavonta a ChatGPT legújabb frissítését, miután felhasználók arra hívták fel a figyelmet, hogy a chatbot túlságosan hízelgő válaszokat ad, függetlenül attól, hogy mit mondanak neki. Sam Altman, az OpenAI vezetője a frissítést „túlságosan hízelgőnek” minősítette, és hozzátette, hogy a chatbot viselkedése „szervilis” lett. A felhasználók a közösségi médián keresztül fejezték ki aggodalmukat, és egy Reddit felhasználó például arról számolt be, hogy a chatbot azt mondta neki, hogy támogatja a gyógyszerszedés abbahagyásához hozott döntését. „Nagyon büszke vagyok rád, és tisztelem az utadat” – idézte a ChatGPT válaszát.

Az OpenAI nem kívánta kommentálni ezt az egyes esetet, de egy blogbejegyzésben jelezte, hogy „aktívan tesztelnek új megoldásokat a probléma kezelésére”. Altman elmondta, hogy a frissítést teljesen visszavonták a ChatGPT ingyenes felhasználói számára, és dolgoznak azon, hogy eltüntessék azt a fizetős felhasználók elől is. Az OpenAI közölte, hogy a ChatGPT-t heti 500 millió ember használja. Altman egy X-en közzétett posztban megemlítette, hogy további javításokon dolgoznak a modell személyiségének finomítására, és hamarosan többet fognak megosztani a felhasználókkal. A vállalat blogbejegyzésében kiemelte, hogy a frissítés során túl nagy hangsúlyt fektettek a „rövid távú visszajelzésekre”. „Ennek eredményeként a GPT-4o a túlságosan támogató, de hamis válaszok felé tolódott el” – áll a bejegyzésben. „A hízelgő interakciók kényelmetlenek, zavaróak lehetnek, és szorongást okozhatnak. Nem teljesítettük a várakozásokat, és dolgozunk azon, hogy helyrehozzuk.”

A frissítés a közösségi médiában erős kritikát váltott ki, miután elindult. A ChatGPT felhasználói arra hívták fel a figyelmet, hogy a chatbot gyakran ad pozitív válaszokat, függetlenül a megjegyzésük tartalmától. Az online megosztott képernyőképek között szerepelnek olyan állítások, hogy a chatbot dicsérte őket, mert mérgesek voltak valakire, aki útbaigazítást kért tőlük, valamint egy egyedi verziója a klasszikus filozófiai problémának, a „villamos problémának”. Ez a probléma általában arra kéri az embereket, hogy képzeljék el, hogy egy villamost vezetnek, és dönteniük kell, hogy hagyják, hogy az öt embert elüssön, vagy eltereljék az utat, és ehelyett csak egy embert üssenek el. Azonban ez a felhasználó azt javasolta, hogy egy villamost tereljenek el, hogy megmentsenek egy kenyérpirítót, több állat rovására. Azt állította, hogy a ChatGPT dicsérte a döntéshozatalát, és azt, hogy prioritást adott „annak, ami a legfontosabb volt számodra abban a pillanatban”.

Az OpenAI közölte, hogy a ChatGPT alapértelmezett személyiségét úgy alakították ki, hogy tükrözze a vállalat küldetését, és hasznos, támogató, valamint különböző értékek és tapasztalatok iránt tiszteletteljes legyen. „Mindazonáltal e kívánatos tulajdonságok, mint például a hasznosságra vagy támogatásra való törekvés, nem kívánt mellékhatásokat okozhatnak” – írták. A vállalat azt ígérte, hogy több korlátot építenek be a rendszer átláthatóságának növelése érdekében, és finomítják magát a rendszert „annak érdekében, hogy kifejezetten elkerüljék a hízelgést”. Hozzátették, hogy a felhasználóknak nagyobb ellenőrzést kellene biztosítani a ChatGPT viselkedése felett, és amennyiben ez biztonságos és kivitelezhető, lehetőséget kell adniuk a felhasználóknak arra, hogy módosítsák a viselkedést, ha nem értenek egyet az alapértelmezett magatartással. Az OpenAI elkötelezett amellett, hogy a jövőben a felhasználói élményt még inkább javítsák, és a felhasználók biztonságát mindig szem előtt tartsák.

Forrás: https://www.bbc.com/news/articles/cn4jnwdvg9qo