OpenAI вводить перевірку віку в ChatGPT

Компанія OpenAI оголосила про впровадження системи перевірки віку користувачів всередині ChatGPT, це рішення стало відповіддю на зростаючий тиск з боку регуляторів та трагічні інциденти, пов'язані з неповнолітніми. Нова система буде автоматично аналізувати стиль спілкування та запити користувача, щоб визначити його віковий діапазон, і якщо алгоритм запідозрить, що з чат-ботом спілкується підліток, акаунт автоматично переведеться в спеціальний режим з обмеженим функціоналом.

В «безпечному» режимі штучний інтелект буде уникати будь-яких тем, пов'язаних із самопошкодженням або суїцидом, навіть якщо користувач попросить допомогти з художнім текстом на цю тему, також чат-бот не буде підтримувати флірт або обговорювати відверті теми. У випадку, якщо система виявить пряму загрозу життю підлітка, компанія залишає за собою право повідомити його батьків або екстрені служби.

Для дорослих користувачів свобода спілкування практично не зміниться, ChatGPT все ще зможе допомагати в створенні сценаріїв та літературних творів на складні або спірні теми. Як заявив голова OpenAI Сем Альтман (Sam Altman), внутрішній принцип компанії — «ставитися до дорослих користувачів як до дорослих». Однак у деяких ситуаціях і для підтвердження віку від повнолітніх користувачів можуть вимагати надати документи, що посвідчують особу, це рішення, як зазначають у компанії, є компромісом між приватністю та безпекою молодого покоління.

Нововведення може викликати дискусію про баланс між захистом дітей та правом на анонімність в інтернеті, але поки не повідомляється, як саме нові правила вплинуть на користувачів з різних країн. Очікується, що система вікової перевірки та нові батьківські налаштування почнуть впроваджуватися протягом найближчих місяців.

Вражаюча популярність ChatGPT, який всього за кілька років досяг аудиторії в 700 мільйонів осіб на тиждень, робить питання безпеки та етики використання ШІ не теоретичними, а дійсно важливим аспектом. Сервісом масово користуються молоді люди, для яких він став повсякденним помічником, а статистика показує, що майже половина всіх запитів надходить від аудиторії молодше 26 років.

В такій ситуації впровадження «підліткового режиму» виглядає не просто превентивною мірою, а необхідним кроком для захисту найактивнішої та вразливої частини глобального ком'юніті ChatGPT. Зростання популярності ШІ серед молоді накладає на розробників підвищену відповідальність, яку OpenAI тепер і намагається формалізувати.