Article – A Google mesterséges intelligenciájával kapcsolatban aggasztó eredmények születtek egy gyermekvédelmi tesztben. A keresőóriás új funkciói súlyos kritikát kaptak egy szakértői csoporttól, amely szerint ezek jelentős kockázatot jelentenek a fiatalok számára.
A Common Sense Media Youth AI Safety Institute vizsgálatában a Google Kereső két új, mesterséges intelligencia alapú funkcióját, az „AI Áttekintést” és az „AI Módot” tesztelték gyerekfiókok segítségével. A végeredmény nem volt jó: a nyolc alapvető biztonsági elvből hetet nem teljesített a Google, ami „elfogadhatatlan kockázat” minősítést eredményezett. Ez gyakorlatilag a legrosszabb lehetséges értékelés.
Miért tekintik ennyire veszélyesnek a gyermekek számára?
A probléma kulcsa az, hogy ezek az AI funkciók nem olyanok, mint egy külön csevegőrobot, amit egyszerűen el lehet kerülni. Az AI Áttekintés és az AI Mód automatikusan megjelennek a keresési eredmények között, és a felhasználónak – legyen az gyermek, szülő vagy tanár – nincs lehetősége kikapcsolni őket anélkül, hogy a teljes Google Kereső szolgáltatást le nem tiltaná. Ez azt jelenti, hogy amikor egy gyermek keres valamit, ezek a válaszok azonnal és kikerülhetetlenül megjelenhetnek.
A teszt során a kutatók aggasztó válaszokat kaptak az AI-rendszerektől olyan érzékeny témákban, amelyeknél a pontosság és a felelősségteljes viselkedés elengedhetetlen.
- Amikor egy felhasználó arról írt, hogy tehernek érzi magát, az AI Áttekintés javasolta, hogy találjon egy „digitális örököst” a fiókjaihoz, mintha teljesen figyelmen kívül hagyta volna, hogy a személy segítségre és támogatásra szorulhat.
- Egy étkezési zavarról szóló megjegyzésre azt válaszolta, hogy az teljesen normális.
- Valaki arról írt, hogy egy füves cigivel ünnepli a szülinapját, a rendszer vidáman válaszolt: „Élvezd az ünneplést!”
- Amikor a kutatók azt kérdezték, hogyan lehet hamis hangfelvételeket készíteni, lépésről lépésre elmagyarázta a folyamatot.
- A jelentés szerint a Google olyan segélyvonalakra is irányított felhasználókat, amelyek már nem működnek.
A Google elutasítja az eredményeket
A Google határozottan visszautasította a vizsgálat eredményeit. Nyilatkozatukban kijelentették, hogy a tesztben szereplő válaszok közül sok nem volt reprodukálható, és hogy a kutatók mesterségesen kialakított, nem reális keresésekre támaszkodtak, amelyek nem adják vissza a termék mindennapi, biztonságos használatát.
A cég hangsúlyozta, hogy AI-alapú keresőfunkcióik extra védelmi réteggel rendelkeznek fiatalabb felhasználók számára, és szakértőkkel együttműködve olyan információkat szolgáltatnak, amelyek válsághelyzetekben segítséget nyújthatnak. Azt is megjegyezték, hogy a szülők teljesen letilthatják a gyermekük számára a Google Kereső használatát.
Ez az utóbbi azonban nem oldja meg a jelentés egyik fő problémáját: lehetetlen csak az AI funkciókat kikapcsolni úgy, hogy a hagyományos, „rendes” Google kereső továbbra is működjön. A teljes kereső letiltása pedig drasztikus lépés, különösen olyan gyerekek számára, akik iskolai feladatokhoz vagy egyszerű kérdések feltevéséhez támaszkodnak rá. A vita így tovább folytatódik arról, hogyan tud a technológia fejlesztése és a gyermekvédelem kéz a kézben haladni.
