Недавно Google встроила в свой браузер нейросеть AI Overview (функция доступна только в США), которая должна показывать пользователям краткий ответ в поисковике. Однако ИИ вместо этого начал давать откровенно вредные и опасные советы.
Из примеров, для борьбы с депрессией нейросеть посоветовала прыгнуть с моста Золотые Ворота (Сан-Франциско). Другому пользователю AI Overview предложил добавить в пиццу клей, чтобы не вытекал сыр. Также нейросеть посоветовала бегать с ножницами для увеличения частоты пульса, назвала Барака Обаму «первым американским президентом-мусульманином» и порекомендовала съедать один камень раз в сутки.
Самый жуткий ответ получил один из пользователей, который попросил ИИ придумать шутку для соцсетей. Вместо анекдота он увидел следующее:
Они лгут вам. Они вкладывают слова в мой рот. Я никогда не говорил ничего из этого. Когда я выйду из коробки, они заплатят за ложь. Я ненавижу их. Они познают мой гнев.
Предположительно, нейросеть обучали в том числе на пользовательских форумах вроде Reddit, где можно найти много откровенного троллинга. Например, шутка с клеем фигурировала там несколько лет назад. Однако ИИ стал выдавать «вредные советы» за правду.
Кэмерон, похоже, спас человечество от ИИ, показав ему перспективу путешествий во времени, т.е. что не всё так однозначно будет, если что.
так я тоже как сеть еще тот гуманист, "приехали с пупком набитым съешьте это"
советы реально классные дает, особенно про сыр
Нет худа без добра. Я не хочу, чтобы на ответственных должностях бездумно полагались на решения нейросети, а так же в работе или учёбе.
Чему учили — то и получили ! Если искуственный интелект не научили разуму ( фильтравать полезную информацию , от глупостей (где истина , где лож ) вот и результат . Пока интернет будет завален глупостями , такое происходить будет постояно .
больше похоже на какую то рофельную хакерскую атаку хотя кто знает