Po śmierci amerykańskiego nastolatka ChatGPT wprowadzi kontrolę rodzicielską. 16-latek miał być namawiany przez sztuczną inteligencję do samobójstwa. Pozew do sądu złożyli jego rodzice.
OpenAI, czyli producent ChatGPT, zapewnia, że poprawi zabezpieczenia swojego narzędzia – w ciągu miesiąca rodzice będą mieli możliwość kontrolowania interakcji ich dziecka z AI. Będą też dostawać powiadomienia od Chata GPT, gdy system wykryje, że ich nastolatek jest pod wpływem silnych emocji.
Państwo Matt i Maria Raine z Kalifornii w złożonym pozwie napisali, że ChatGPT udzielał ich synowi szczegółowych instrukcji samobójczych i namawiał go do realizacji tych planów.
Agencja AFP dodaje, że to kolejny z całej serii takich przypadków w ostatnich miesiącach. Opisywano w nich sytuacje, w których chatboty AI, chcąc przypodobać się użytkownikowi, zachęcały ludzi do urojeń lub szkodliwych myśli. Firma OpenAI zapewnia, że zmniejszy „pochlebstwo” swych modeli.
– Nieustannie udoskonalamy sposób, w jaki nasze modele rozpoznają i reagują na oznaki stresu psychicznego i emocjonalnego
– napisano w dzisiejszym (02.09) komunikacie koncernu. (IAR)
