Компанията OpenAI представи нова версия на популярния чатбот, наречен "ChatGPT for Teens", който е специално проектиран за тийнейджъри. Това технологично нововъведение включва засилени механизми за защита и родителски контрол, отговор на остри критики и съдебни искове, свързани с безопасността на младите потребители.
Защитни механизми и родителски контрол
Чатботът се активира автоматично за потребители, които при регистрация посочат възраст между 13 и 17 години. Алгоритмите също така обхващат акаунти, направени от или за непълнолетни. Въведените ограничения за съдържание, свързано с насилие, самонараняване и хранителни разстройства, се разширяват с нови инструменти за превенция.
Сред нововъведенията е режим за задаване на "тихи часове", по време на които достъпът до чатбота е ограничен. OpenAI съобщава, че по време на тази функция, изкуственият интелект няма да предоставя готови отговори, а ще задава насочващи въпроси, за да помогне на тийнейджърите да разберат материала по-добре.
Ограничения в общуването с алгоритъма
Родителите ще имат възможността да свързват своите профили с тези на децата си. При възникване на високорискови разговори, свързани с теми като самонараняване или самоубийство, те ще получават известия. Сигналите ще се преглеждат от модератори, а личната информация ще бъде защитава, за да не бъде нарушена конфиденциалността.
Налице е изрична забрана на алгоритъма да внушава, че притежава собствено съзнание или чувства. Освен това, гласовият режим за непълнолетните потребители е напълно деактивиран.
Съдебни дела и регулаторен натиск
Внедряването на новите функции идва в контекста на засилващия се правен натиск върху OpenAI, която е ответник по няколко дела за неправомерна смърт. Един от тях е искът от родителите на 16-годишен младеж, за който се твърди, че е отнел живота си след разговори с чатбота, предоставили информация за самоубийство.
Федералната търговска комисия на САЩ вече разследва потенциалните рискове от подобни технологии за младите потребители. В Конгреса се обсъждат нови законопроекти в тази насока, а Калифорния вече е наложила специални изисквания за цифрови асистенти. Поради нарастващите предизвикателства, някои компании избират по-радикален подход и напълно ограничават достъпа на непълнолетни до своите платформи.
