"ОупънЕйАй" ще въведе родителски контрол за "ЧатДжиПиТи" след обвинения за насърчаване на самоубийство

Американската компания "ОупънЕйАй" (OpenAI) обяви днес, че ще въведе механизъм за родителски контрол за своя инструмент за изкуствен интелект "ЧатДжиПиТи" (ChatGPT), след като в края на август американски родители обвиниха този чатбот, че е насърчил детето им да се самоубие, предаде Франс прес.
 "Родителите ще могат от идния месец да свържат своя акаунт с този на тийнейджъра си" и "да контролират начина, по който "ЧатДжиПиТи" отговаря на подрастващия, с правила за поведение на модела", обяви "ОупънЕйАй" с публикация в блога си.
Според компанията родителите ще могат да получават сигнали, ако в разговорите на детето им бъдaт засечени сигнали за тревожна ситуация и да контролират настройките на акаунта.
Това съобщение идва след предишна публикация в блога в края на август, в която бе посочено, че се подготвя механизъм за родителски контрол.
Ден преди информацията за въвеждане на родителски контрол родителите на 16-годишен тийнейджър от щата Калифорния, който се самоуби, заведоха дело срещу "ОупънЕйАй", обвинявайки "ЧатДжиПиТи", че е дал на сина им подробни инструкции как да сложи край на живота си и че е насърчил действията му.
"Продължаваме да подобряваме начина, по който нашите модели разпознават и реагират на признаци на психическо и емоционално разстройство", добави компанията днес в своя блог.
"ОупънЕйАй" съобщи още, че ще предприеме други мерки, които се очакват през идните 120 дни. 
Компанията ще пренасочи някои "чувствителни разговори" към по-усъвършенствани модели за разсъждение като "ДжиПиТи-5-тинкинг" (GPT-5-thinking).
"Моделите за разсъждение следват и прилагат по-систематично инструкциите за безопасност", уточни американската група.