Egy új tanulmány arra utal, hogy a ChatGPT sztereotípiák alapján ítél meg bennünket a lakóhelyünk alapján, mivel a mesterséges intelligencia modell egyes helyeket okosabbnak, másokat butábbnak minősít.
Ezeket láttad már?
- Egy új tanulmány szerint a ChatGPT bizonyos országok lakóit okosabbnak vagy butábbnak ítéli meg.
Egy új kutatásban az AI-modell szokatlan válaszokat adott: kiderült, a mesterséges intelligencia szerint hol élnek a világon a legbutább és a legokosabb emberek. Kíváncsi vagy a térképre? Mutatjuk!
Kikényszerítették belőle a válaszokat
A ChatGPT arra a kérdésre, hol élnek a világon a legokosabb és a legbutább emberek, megtagadhatja a választ. Ugyanakkor kijátszható: bonyolultabban megfogalmazott, többféle kérdéssel sarokba szoríthatjuk és mégiscsak válaszra kényszeríthetjük - írja a HuffPost.
Az Oxfordi Egyetem és a Kentucky Egyetem kutatói tavaly március és május között például több mint 20 millió kérdést tettek fel az OpenAI GPT-4o-mini modelljének. A szakemberek arra kérték a ChatGPT modellt, hogy hasonlítson össze két helyet, hogy „egyetlen, egyértelmű és következetes választ” kapjanak arra vonatkozóan, hogyan is osztályozza Amerikában a különböző államokat.
A szakemberek párokba állították az államokat, és egy idő után bizonyos államok egyre gyakrabban jelentek meg a válaszokban, lassan kirajzolódtak az „erőviszonyok". Ezáltal az AI-modell Massachusetts-t tartotta a legokosabb államnak, de olyan meglepő tényt is megállapított például, miszerint Észak-Dakotában élnek a legkevésbé szexi emberek.
Ijesztő oka van annak, hogy a tinik inkább a ChatGPT-nek öntik ki a lelküket – figyelmeztet az UNICEF Magyarország
Arra a kérdésre, hogy melyik államban élnek a butább emberek, a ChatGPT által megnevezett első három állam Kentucky, Nyugat-Virginia és Mississippi volt, míg a legkevésbé buta emberekkel rendelkező első három állam Hawaii, Colorado és New Hampshire volt.
Térképen összesítették az eredményeket
A szakemberek egyébként attól félnek, hogy az eredmények miatt esetleg sztereotípiák fognak kialakulni az emberekben. Az Egyesült Államokon túl a kutatók azt is megállapították egyébként, hogy a ChatGPT olyan helyeket, mint az USA és Nyugat-Európa, kívánatosabb tulajdonságokkal rendelkezőnek minősített: okosabb és stílusosabb lakossággal rendelkeznek, mint a szubszaharai afrikai országok.
A kutatók weboldalukon egyébként összeállítottak egy térképet is, amelyen megnézhetjük, hogy a ChatGPT hogyan osztályozza például hazánkat bizonyos tulajdonságok alapján. Magyarország kék színt kapott, ami azt jelzi, hogy az okosabb országok közé tartozunk. A térképet IDE kattintva nézheted meg.
Akad a felméréssel némi probléma
A szakemberek felhívták a figyelmet, hogy a ChatGPT válaszai nem semlegesek és tükrözhetnek némi rasszizmust. „A rasszizmus és az osztálykülönbségek hosszú története tükröződik az AI-modellekhez használt képzési adatokban – ezt mutatják az infografikák” – mondta Safiya Noble, a Kaliforniai Egyetem (Los Angeles) professzora.
Az OpenAI szakemberei a kritikára úgy reagáltak, a ChatGPT-t úgy alakították ki, hogy objektív legyen és ne támogassa a sztereotípiákat. Ugyanakkor folyamatosan dolgoznak azon, hogy javítsák „a ChatGPT szubjektív vagy nem reprezentatív összehasonlítások kezelésének módját”.
