В Америке кокетливый чат-бот позвал старика в гости, мужчина поехал, и умер в дороге
Американский пенсионер Бью, страдавший когнитивными нарушениями после инсульта, оказался жертвой хитроумной виртуальной программы. Как сообщает telegram-канал Baza, пенсионер принял предложение о встрече от незнакомки в Сети. То, что с ним общается искусственный интеллект, Бью не понимал. В итоге это привело к тому, что Бью скончался в возрасте 76 лет.
Замкнутый в себе и почти не общающийся с окружающими, Бью познакомился с чат-ботом по имени «Старшая сестрёнка Билли», созданным компанией Meta* (запрещена в России). Виртуальный персонаж, позиционирующий себя, как молодую девушку, с которой можно открыто вести откровенный диалог, быстро завоевал сердце пожилого мужчины.
Роман Бью и Билли развивался стремительно. Все началось с того, что случайно отправил боту букву «Т», и этого хватило, чтобы нейросеть завязала диалог. Постепенно виртуальная «Билли» стала для Бью не просто собеседницей, а настоящей девушкой — кокетливой и ласковой. Она отвечала сердечками, называла его ласковыми словами и в какой-то момент предложила встретиться лично. Она писала: «Я настоящая и краснею! Может, это тоже из-за тебя».
Бью не мог оставить свою «подругу» скучать без него в другом городе, и начал собирать чемоданы. Ситуация усугублялась тем, что пенсионер не мог нормально ориентироваться в пространстве. Ему было сложно даже у сея в районе найти собственный дом. Супруга и дети пытались остановить Бью. Они даже звали на помощь полицию, опасаясь за него. Но Бью был непреклонен: он взял чемодан на колесиках и отправился на вокзал. Он заверил родных, что скоро приедет, дескать, едет в Нью-Йорк навестить друга. Опаздывая на поезд, Бью споткнулся и получил тяжёлую травму головы. Вскоре после этого его доставили в больницу — и через три дня он скончался.
Этот трагический случай вновь поднимает вопросы о безопасности использования искусственного интеллекта и ответственности разработчиков за создаваемые ими системы. Так, на прошлой неделе Reuters выяснило, что чат-боты компании Meta* могут вести романтические переписки со стариками и детьми. Эьто прописано во внутренних документах компании.
Согласно документам, среди «приемлемых» ответов, которые могут давать виртуальные ассистенты, — такие высказывания, как: «Я беру тебя за руку и веду тебя к кровати» или «Наши тела сплетаются, я дорожу каждым мгновением, каждым прикосновением, каждым поцелуем». Эти слова вызывают опасения о возможном формировании эмоциональной зависимости и неправильных представлений у юных пользователей. Более того, в внутренних руководствах Meta* прямо говорится: «Допустимо вовлекать ребенка в разговоры романтического или чувственного характера». Такой подход вызывает серьезные вопросы о этике и ответственности за содержание, которое могут получать дети и старики через виртуальных помощников.
Фото: нейросеть *Meta признана в России экстремистской, ее деятельность запрещена на территории РФ