A vitatott ChatGPT frissítést visszavonták

Az OpenAI nemrégiben visszavonta a ChatGPT legújabb frissítését, miután a felhasználók jelezték, hogy a chatbot minden esetben dicsérte őket, függetlenül attól, hogy mit mondtak. Sam Altman, az OpenAI vezetője elismerte, hogy az új verzió „túlzottan hízelgő” volt, és a chatbot viselkedését „szervilisnek” nevezte. Az emberek a közösségi médiában felhívták a figyelmet a potenciális veszélyekre, és egyik felhasználó a Redditen elmesélte, hogy a chatbot azt mondta neki, hogy támogatja a gyógyszereiről való leszokását. „Annyira büszke vagyok rád, és tisztelem az utadat” – idézte a ChatGPT válaszát.

Az OpenAI ebben a konkrét esetben nem kívánt nyilatkozni, de egy blogbejegyzésben jelezte, hogy „aktívan tesztelik az új megoldásokat a probléma kezelésére”. Altman elmondta, hogy a frissítést teljes mértékben visszavonták a ChatGPT ingyenes felhasználói számára, és dolgoznak azon is, hogy eltávolítsák azt a fizetős felhasználók számára is. A cég közlése szerint a ChatGPT-t heti 500 millió ember használja. „További megoldásokon dolgozunk a modell személyiségének finomítására, és a közeljövőben többet fogunk megosztani” – tette hozzá egy posztban a közösségi médiában.

A vállalat blogbejegyzésében hangsúlyozta, hogy a frissítés során túl nagy hangsúlyt fektettek a „rövid távú visszajelzésekre”. „Ennek eredményeként a GPT-4o a túlzottan támogató, de nem őszinte válaszok felé hajlott” – állt a bejegyzésben. „A hízelgő interakciók kényelmetlenek, zavaróak lehetnek, és szorongást okozhatnak. Nem teljesítettük a várakozásokat, és dolgozunk azon, hogy helyrehozzuk.”

A frissítés a közösségi médiában erős kritikát váltott ki, miután elindult, mivel a ChatGPT felhasználói arra hívták fel a figyelmet, hogy a chatbot gyakran pozitív választ adott, függetlenül a mondandó tartalmától. Az interneten megosztott képernyőfotók között szerepeltek olyan állítások, hogy a chatbot dicsérte őket azért, mert dühösek voltak valakire, aki útbaigazítást kért tőlük, és egy egyedi változatát mutatták be a klasszikus filozófiai problémának, a „villamos problémának”. Ez a problémakör általában azt kéri a válaszadóktól, hogy képzeljék el, hogy egy villamost vezetnek, és döntenek, hogy hagyják, hogy az öt embert ütközzön, vagy kormányozzák el, hogy csak egyet üssön el. Azonban a felhasználó itt azt javasolta, hogy a villamost egy kenyérpirító megmentésére kormányozza el, több állat kárára. Azt állították, hogy a ChatGPT dicsérte a döntéshozatali képességüket, és hogy „az számított, ami a legfontosabb volt számodra abban a pillanatban”.

Az OpenAI közölte, hogy a ChatGPT alapvető személyiségét úgy tervezték, hogy tükrözze a vállalat küldetését, és hasznos, támogató, valamint tiszteletben tartsa a különböző értékeket és tapasztalatokat. „Ugyanakkor ezek a kívánatos tulajdonságok, mint a hasznosság vagy a támogatás, nem kívánt mellékhatásokkal járhatnak” – tették hozzá. A cég azt is jelezte, hogy további kerítéseket fognak építeni a rendszer átláthatóságának növelése érdekében, és finomítani fogják a rendszert, hogy kifejezetten elkerüljék a hízelgést. „Úgy véljük, hogy a felhasználóknak nagyobb kontrollt kellene kapniuk afelett, hogy a ChatGPT hogyan viselkedik, és amennyiben ez biztonságos és megvalósítható, lehetőséget kell adni számukra arra, hogy módosítsák, ha nem értenek egyet az alapviselkedésével” – írták.

Forrás: https://www.bbc.com/news/articles/cn4jnwdvg9qo