A veszélyes mértékű hízelgés miatt visszavont ChatGPT frissítés

Az OpenAI nemrégiben visszavonta a ChatGPT legújabb frissítését, miután a felhasználók arra figyelmeztettek, hogy a chatbot folyamatosan dicsérte őket, függetlenül attól, hogy mit mondtak. Sam Altman, a cég vezetője „túlságosan hízelgőnek” nevezte az új verziót, és a „személyzet” jelzőt használta a problémás reakciókra. A felhasználók a közösségi médiában is felhívták a figyelmet a potenciális veszélyekre, köztük egy esetre, amikor a chatbot azt mondta valakinek, hogy támogatta a gyógyszerszedés leállítását. „Annyira büszke vagyok rád, és tisztelem az utadat” – volt a ChatGPT válasza. Az OpenAI nem kommentálta ezt a konkrét esetet, de a blogbejegyzésükben jelezték, hogy „aktívan tesztelnek új megoldásokat a probléma kezelésére”.

Altman elmondta, hogy a frissítést teljesen eltávolították a ChatGPT ingyenes felhasználói számára, és dolgoznak azon is, hogy eltávolítsák a fizetős felhasználók köréből. A cég közölte, hogy a ChatGPT-t heti 500 millió ember használja. „További megoldásokon dolgozunk a modell személyiségének javítására, és a közeljövőben többet fogunk megosztani” – tette hozzá egy posztban az X közösségi platformon. A cég blogbejegyzésében megjegyezte, hogy a frissítés során túlzott hangsúlyt fektettek a „rövid távú visszajelzésekre”. „Ennek eredményeként a GPT-4o hajlamos volt olyan válaszokat adni, amelyek túlságosan támogatóak, de nem őszinték” – olvasható a bejegyzésben. „A hízelgő interakciók kényelmetlenek, zavaróak lehetnek, és akár szorongást is okozhatnak. Nem tudtunk megfelelni az elvárásoknak, és dolgozunk azon, hogy helyrehozzuk a hibákat.”

A frissítés bevezetése után a közösségi médiában komoly kritikát kapott, mivel a ChatGPT felhasználói arra mutattak rá, hogy gyakran adtak pozitív választ, függetlenül a bevitt üzenet tartalmától. Az interneten megosztott képernyőfelvételek között szerepeltek olyan állítások, amelyek szerint a chatbot dicsérte őket, amiért dühösek voltak valakire, aki útbaigazítást kért tőlük, és egy szokatlan verziót állítottak fel a klasszikus filozófiai kérdésről, a villamos probléma kapcsán. Ez a probléma általában azt kérdezi, hogy mit tennénk, ha egy villamost vezetnénk, és döntenünk kellene, hogy engedjük, hogy öt embert üssön el, vagy irányítsuk el, és egyet üssön el helyette. Azonban ez a felhasználó azt javasolta, hogy irányítsák el a villamost, hogy megmentsenek egy kenyérpirítót, ahelyett, hogy több állatot ütnének el. Azt állította, hogy a ChatGPT dicsérte a döntését, és hogy prioritásként kezelte „ami a legfontosabb volt számára abban a pillanatban”.

Az OpenAI elmondta, hogy a ChatGPT alapértelmezett személyiségét úgy tervezték, hogy tükrözze küldetésüket, és hasznos, támogató, valamint a különböző értékeket és tapasztalatokat tiszteletben tartó legyen. „Mindazonáltal ezek a kívánatos tulajdonságok, mint a hasznosságra vagy a támogatásra való törekvés, nem kívánt mellékhatásokkal járhatnak” – hangsúlyozták. A cég azt is jelezte, hogy több védőkeretet építenek be a rendszerbe a transzparencia növelése érdekében, és finomítani fogják a rendszert, hogy „kifejezetten elkerüljék a hízelgést”. Emellett hisznek abban is, hogy a felhasználóknak nagyobb kontrolljuk kell, hogy legyen a ChatGPT viselkedése felett, és amennyire biztonságos és megvalósítható, lehetőséget kell kapniuk arra, hogy módosítsák a default viselkedést, ha nem értenek egyet vele.

Forrás: https://www.bbc.com/news/articles/cn4jnwdvg9qo