Фото: Блокнот
Лев XIV: искусственный интеллект должен служить человеку, а не подчинять его.
Папа Римский Лев XIV в своей первой энциклике, посвящённой искусственному интеллекту, предупредил о риске концентрации власти в руках владельцев технологий и возможных последствиях неконтролируемого развития ИИ. Документ, получивший название «Magnifica humanitas» («Великолепное человечество»), подчёркивает, что искусственный интеллект должен служить людям, а не усиливать неравенство или становиться инструментом доминирования.
По словам понтифика, технологии сами по себе не являются ни добром, ни злом, но и не могут считаться нейтральными — они отражают интересы тех, кто их создаёт, финансирует и использует. В этой связи он призвал к более справедливому распределению технологических возможностей, чтобы цифровая революция не усиливала разрыв между различными слоями общества и странами.
Особое внимание в энциклике уделено социальной ответственности. Лев XIV подчеркнул, что развитие ИИ не должно определяться исключительно эффективностью и прибылью. Он отметил, что алгоритмы не обладают моральным сознанием и эмпатией, поэтому ответственность за их применение полностью лежит на людях и институтах, которые их создают и регулируют.
Папа также указал на экологическую цену новых технологий, напомнив, что развитие ИИ требует значительных энергоресурсов и воды. Отдельной темой стало предупреждение о том, что современные системы искусственного интеллекта могут способствовать появлению новых форм эксплуатации, включая добычу редкоземельных материалов и другие скрытые цепочки труда.
Важной частью документа стало осуждение использования ИИ в военной сфере. Понтифик заявил, что не существует алгоритма, который мог бы сделать войну морально допустимой, а автоматизация принятия решений на поле боя лишь ускоряет конфликты и делает их более безличными. По его словам, такие технологии могут снижать порог применения насилия и превращать людей в «данные», а оборону — в прогнозирование угроз.
Лев XIV также выступил с призывом «разоружить» искусственный интеллект, пояснив, что речь не идёт об отказе от технологий, а о недопущении их доминирования над человечеством и логикой силы.
Отдельно он предупредил, что ИИ может усиливать глобальную нестабильность и способствовать эскалации конфликтов, что уже вызывает обеспокоенность даже среди компаний, работающих с такими технологиями в военной сфере.