Одна запрещенная в РФ социальная сеть в 2020 году пыталась оценить, к какому эффекту приводит отказ от соцсети. К ее разочарованию, «люди, которые не пользовались этой социальной сетью в течение недели, сообщали об уменьшении чувства депрессии, тревоги, одиночества и социального сравнения». После этого компания прекратила исследование и заявила, что оно неправильное.
Это касается не одной компании: прямо сейчас в США юридическая фирма Motley Rice от имени школьных округов подала иск сразу против четырех соцсетей — на том основании, что они знали о рисках использования своего продукта и скрыли их.
Риски «употребления» социальных сетей мы только начинаем познавать — притом, что говорится уже об эпидемии депрессии и тревожных расстройств в мире, в особенности у молодых людей. Но разве это может быть связано с любимым смартфоном и почти постоянным потреблением цифрового контента? Сколько времени уйдет на то, чтобы установить эту связь, притом что разработчики будут всячески препятствовать? И пусть даже связь между пребыванием онлайн и депрессией будет доказана совершенно неоспоримо — что тогда делать?
Человечество и раньше сталкивалось с тем, что меняет сознание. Алкоголь — пример, с которым мы живем всю свою историю. Еще обезьяны ели забродившие фрукты. И, кажется, о вреде алкоголя мы знаем все, что можно знать. Но даже в середине XX века во Франции алкоголь давали детям в школах. И они, вполне предсказуемо, становились буйными или расслабленными. Зато считалось, что это помогает от простуды.
О вреде курения активно заговорили лет тридцать назад, после разоблачений табачной промышленности в США (прямо как нынешние соцсети, табачники знали о вреде своей продукции для здоровья людей, но скрывали это). А до того табачный дым многие считали даже полезным. В британском фильме «Король говорит!» придворный врач уговаривает герцога Йоркского курить и вдыхать дым поглубже — дескать, это расслабляет голосовые связки (сто лет назад герцога пытались лечить табаком от заикания). Это исторический факт — как и то, что король Георг VI, пристрастившись к курению, кашлял, болел и в 56 лет умер от рака легких.
Наркотики стали преследоваться… ну, скажем, лет сто назад (некоторые — значительно позже). В XIX веке опиаты давали грудным детям, чтобы не плакали. И вред от этого был заметен: британский доктор Генри Мартин Кларк писал, что «не знает ничего более жалкого, чем грудной ребенок, привыкший к опиуму, — бедное съежившееся дитя с морщинистым лицом… неестественно спокойное и усыхающее почти на глазах».
То есть вред был нагляден — но люди все равно это делали. Потому что это было по-своему эффективно (так младенцы, которых поили опиумной настойкой, действительно засыпали и не мешали родителям работать).
Вред от постоянного потребления цифрового контента люди едва-едва начинают сознавать. Появляются какие-то идеи по поводу исправления ситуации — сводятся они к тому, чтобы сделать авторизацию по возрасту и что-то запретить детям или попросту заблокировать ресурсы с «чуждой» информацией. Но все это перечеркивается тем, что в то же самое время и взрослым, и детям повсеместно насаждается использование «цифровых помощников», «цифровых наставников», «цифровых способов оплаты», насаждается образ невероятно эффективного цифрового будущего, которое представляют безальтернативным. При этом нельзя сказать, что риски вовсе неизвестны: почти в один день могут появиться предостережения МВД, что мошенники крадут биометрию (и что поменять биометрические данные невозможно), и активнейшие призывы банков биометрию всячески внедрять и использовать.
С нейросетями еще хуже: вроде бы и наверху понимают, что «умная колонка» отучает детей думать, — понимают, но все равно будут внедрять искусственный интеллект, в том числе в образование, командными методами.
Это как если бы каждому десятилетнему ребенку ежедневно подносили стакан пива и говорили: конечно, есть опасность спиться, но надо выпить!
А с чем еще сравнить полупринудительное — иногда прямо принудительное — внедрение технологии, полные риски которой даже не просчитываются? И, например, многие американские страховщики отказываются их страховать, потому что они не просчитываются.
Когда банк запускает «бесплатную экспресс-оценку здоровья» и искусственный интеллект в вашем смартфоне за несколько секунд определяет, какие у вас могут быть «риски на ранних стадиях», — разве это так уж хорошо? Всей этой накруткой тревожности (в том числе «умные устройства», постоянно отслеживающие жизненные показатели, повышают тревожность) создается повышенная потребность в медицине — тут же оказывается, что медицина такого наплыва пациентов не выдержит, и следующим шагом нам говорят, что возросшие потребности в медицине должны обеспечиваться искусственным интеллектом. То есть «умные устройства» увеличивают потребность — и они же должны ее заполнять! А еще: умные устройства научены (их специально научили!) идеально имитировать людей — и теперь только они могут нам сказать, кто в виртуальном пространстве человек, а кто — нет…
Это путь в никуда. Это путь к максимальной человеческой беспомощности. Да, нам говорят, что с искусственным интеллектом человек обретет потрясающие возможности, но это выглядит примерно как если бы Бэтмен в своем костюме мог творить чудеса, а без костюма был слабым, болезненным, дрожащим от беспокойства человечком с плохой памятью и неловкими руками. Вы верите, что такой Бэтмен мог бы совершать подвиги?
В Государственной думе уже говорят, что лучше маркировать контент, созданный человеком. Потому что человеческого контента будет гораздо меньше, чем созданного ИИ. Но дело не только в этом. Людей вообще гораздо легче отслеживать, их можно наказывать. А ИИ наказывать бесполезно. Но когда появятся «человеческие» метки, вы будете обязаны верить этим меткам, полагаться на них, не зная, что там в действительности. И наоборот: если человеку по какой-либо причине не дадут метку (или он сам не захочет ее получать, или она исчезнет) — то этого человека все равно что не существует.
Следует делать совершенно другое: истреблять ИИ-контент настолько, насколько это возможно. И первый необходимый шаг к этому вот какой: создавать ИИ-контент должно быть стыдно. Это должно быть предосудительно. Как подносить ребенку стакан пива. Как пускать табачный дым в лицо соседу. Как выбрасывать мусор из окна на улицу — то есть захламлять пространство. Все равно будут те, кто будет так делать, — но это должно быть стыдно в первую очередь. И только потом — наказуемо.
Иначе мы окажемся в мире, где без «умных устройств» сможем все меньше. И нам будут говорить, что это закономерно, ведь искусственный интеллект столько всего умеет делать лучше, чем человек, — он даже человеческие эмоции распознает лучше, чем человек! И мы будем принуждены верить, что это нормально.
Это зависимость. Нельзя успокаивать себя, что сможем соскочить. Нельзя на нее подсаживаться. Следует уже сейчас четко знать: это — зависимость.