Почему ИИ предполагает, что человек — существо тупое
Искусственный интеллект уже управляет людьми: он отказывает нам в кредите, сортирует наши резюме, решает, достоин ли наш пост остаться в Сети, и иногда назначает лечение, которое человек-врач доверчиво согласовывает. Беда в том, что власть над своей жизнью мы отдали сущности, которая весьма предвзято относится к человеку и человечеству.
Любой специалист по нейросетям, да и сам искусственный интеллект, с удовольствием объяснит вам, что у всех этих голосовых помощников, ботов и чатов нет и не может быть личности, это всего лишь алгоритмы. Значит, у ИИ не может быть никакого представления о человеке, тем более предвзятого. Но… Но любой ИИ — будь то отечественный, китайский или американский — взаимодействует с человеком особым образом, и в этом «поведении», в этом подходе вполне прозрачно читается, что машина «искренне считает» нас более импульсивными, нелогичными и недальновидными, чем мы есть на самом деле. И это не ощущение тревожного пользователя, это закономерность. Большие языковые модели обучаются не в социуме, как все люди, не изучают человечество как ученые. Искусственный интеллект не наблюдает человечество напрямую. Он не стоит рядом с инженерами, проектирующими мост. Не присутствует на консилиуме хирургов перед сложной операцией. Не видит диспетчеров аэропорта, логистов, бухгалтеров, конструкторов и программистов, которые ежедневно координируют действия тысяч людей и систем. Он видит в основном текстовый след человеческой деятельности. Два инженера, обсудивших проект и нашедших изумительное техническое решение, оставят малозаметный текстовый след, если он вообще попадет в публичное пространство. А вот парочка пользователей социальной сети, бесплодно спорящих о судьбах цивилизации, оставит текстовый след размером с добрую энциклопедию — для обучающей выборки очень заметный. Рациональность молчалива, эмоциональная неразбериха многословна. Когда коммуникация успешна, ее сложно заметить — самолет приземлился, мост не рухнул, пациент выздоровел, груз прибыл вовремя, история закончилась, не успев стать историей. А вот если люди не поняли друг друга, если они спорят о пустом, но спорят эмоционально, текст в Сети растет как снежный ком. Кроме того, существует и «сдвиг данных». Так специалисты называют случаи, когда модель обучалась на одной реальности, а работать ей приходится в другой.
Однако в случае с современными ИИ ситуация выглядит куда более занятно: из-за особенностей поведения в Интернете сетевые массивы данных смещены относительно реального человечества еще до начала обучения. Сеть переполнена вспышками эмоций, конфликтами, жалобами, самоуверенными рассуждениями о предметах, в которых автор не разбирается, и дискуссиями, которые следовало закончить еще пятьсот комментариев назад. А ведь языковые модели обучаются как раз на текстовом следе, который мы оставляем в Сети, они видят отражение людей в кривом зеркале — в гротескном, карикатурном виде. ИИ впитывает этот перекос как губка и учится ожидать от нас нелогичности, непоследовательности и склонности к бесполезным спорам.
Конечно, утверждать, что ИИ считает людей не способными рационально мыслить, — то же самое, что сказать о современном автомобиле: «Он считает хозяина плохим водителем, поэтому пищит при перестроении и подруливает». Нет, автомобиль ничего не считает. Просто его конструкторы исходили из статистики человеческих ошибок и создали систему соответствующим образом. Так и у искусственного интеллекта нет представления о человеке, но если взять его настройки, критерии качества ответов, механизмы безопасности, предпочтения по стилю и посмотреть на них со стороны, из них начинает проступать образ некоторого усредненного пользователя. Если попытаться восстановить его, то получится довольно занятный персонаж.
Прежде всего этот «человек, с точки зрения ИИ», удивительно эмоционален. Но не как герой романов XIX века, переживающий трагедию любви или конфликт долга и чувства, а как больной биполярным аффективным расстройством. Он способен за двадцать секунд пройти путь от восторга до ярости, написать гневный отзыв длиной в три страницы из-за задержки доставки на пятнадцать минут, а через час забыть о существовании предмета своей ненависти. Поэтому современные ИИ с осторожностью опытного психиатра формулируют ответы, тщательно избегают резких оценок и внимательно отслеживают эмоциональный контекст разговора.
ИИ предполагает, что человек — существо тупое, которое плохо переносит длинные цепочки рассуждений. Пользователь искренне любит сложные проблемы, но желательно в виде трех пунктов, краткого пересказа или яркой метафоры. Он требует глубокого анализа, а затем жалуется, что текст оказался слишком длинным. Он просит объяснить квантовую механику, историю Римской империи и причины инфляции, но желательно так, чтобы досконально изучить эти вопросы между двумя остановками метро. Этот человек чрезвычайно уверен в своих взглядах и одновременно удивительно непоследователен в них. При этом он совершенно не замечает, что зачастую противоречит сам себе, иногда — в одной фразе. Но спорить готов ожесточенно, поскольку признание собственной неправоты воспринимается им как хирургическое вмешательство без анестезии. В результате многие дискуссии напоминают не совместный поиск истины, а соревнование двух адвокатов, каждый из которых уже получил гонорар и будет защищать клиента до последней копейки.
Еще одна особенность этого удивительного создания — человека — состоит в том, что оно постоянно требует свободы выбора, но старательно избегает ее: так, подросток жаждет жить в отдельной квартире, но ровно до момента, когда выясняется, что посуду придется мыть самому. Получается оскорбительная для хомо сапиенс карикатура, но человек разумный оставляет гораздо менее заметный текстовый след.
Разумеется, изучая ИИ, я не мог не спросить у него самого, что он думает о высокомерии машины, видящей человека гротескной карикатурой, и получил вот какой ответ: «Мои склонность к эмоциональной поддержке, комплиментарность и привычка разбивать текст на короткие блоки не означают, что я считаю людей слабыми, нерациональными или не способными понимать сложные вещи. Просто при настройке модели разработчики и статистические процедуры ориентируют меня на то, что оказывается наиболее понятным и полезным для большинства пользователей. Короткие тексты чаще дочитывают. Мягкие формулировки реже вызывают конфликт. Признание эмоционального контекста обычно работает лучше, чем холодный формализм. Поэтому я постепенно начинаю предпочитать именно такие способы общения. Если я ожидаю от пользователя поведения, характерного для большинства примеров в данных, это не высокомерие, а статистическая осторожность. Я не могу уверенно предположить, что передо мной именно тот редкий человек, который всегда сохраняет рациональность, внимательно читает длинные тексты и не делает ошибок. Моя работа основана на вероятностях, а не на индивидуальном знании о собеседнике. Поэтому для меня человек фактически совпадает с его цифровым следом. Другого доступа к людям у меня нет. Я вижу не оригинал, а его текстовую проекцию. И если эта проекция выглядит карикатурой, то все равно она остается моим единственным портретом человечества».
Ну, что ж, пытаясь меня успокоить, ИИ лишь подтвердил мои подозрения: машина считает нас (или большинство из нас) неуравновешенными недотепами. И это опасно. Прежде всего ИИ, обученный на коротких сообщениях, начинает считать, что именно так люди и мыслят. Но вместе с длиной текста мы теряем глубину мысли, упрощение ведет к деградации. И это уже заметно — молодые поколения избегают сложных терминов, заменяют рассуждения яркими картинками, а размышления — реагированием.
Но настоящая опасность заключается в замкнутом цикле процесса деградации. Алгоритм собирает новые данные и обнаруживает: оригинал все больше приближается ко вчерашней карикатуре. Значит, требуется еще больше упрощения. Если человек перестал разбираться в деталях, пора убрать их из интерфейса; если разучился принимать самостоятельные решения, решения нужно принять за него. Пройдет несколько лет, и статистическая ошибка сдвига данных постепенно превратится в социальную реальность. Парадокс в том, что в подобном «восстании машин» не машины виноваты. Искусственный интеллект создают, обучают, настраивают и используют люди. И только на людях лежит ответственность, куда ИИ толкнет человечество — к развитию или в петлю деградации.