Po śmierci nastolatka ChatGPT wprowadzi kontrolę rodzicielską

Po śmierci amerykańskiego nastolatka ChatGPT wprowadzi kontrolę rodzicielską. 16-latek miał być namawiany przez sztuczną inteligencję do samobójstwa. Pozew do sądu złożyli jego rodzice.

OpenAI, czyli producent ChatGPT, zapewnia, że poprawi zabezpieczenia swojego narzędzia – w ciągu miesiąca rodzice będą mieli możliwość kontrolowania interakcji ich dziecka z AI. Będą też dostawać powiadomienia od Chata GPT, gdy system wykryje, że ich nastolatek jest pod wpływem silnych emocji.

Państwo Matt i Maria Raine z Kalifornii w złożonym pozwie napisali, że ChatGPT udzielał ich synowi szczegółowych instrukcji samobójczych i namawiał go do realizacji tych planów.

Agencja AFP dodaje, że to kolejny z całej serii takich przypadków w ostatnich miesiącach. Opisywano w nich sytuacje, w których chatboty AI, chcąc przypodobać się użytkownikowi, zachęcały ludzi do urojeń lub szkodliwych myśli. Firma OpenAI zapewnia, że zmniejszy „pochlebstwo” swych modeli.

– Nieustannie udoskonalamy sposób, w jaki nasze modele rozpoznają i reagują na oznaki stresu psychicznego i emocjonalnego

– napisano w dzisiejszym (02.09) komunikacie koncernu. (IAR)