В своем первом крупном документе, опубликованном в понедельник, Папа Римский Франциск призвал правительства замедлить развитие искусственного интеллекта и тщательно его контролировать. Он предупредил, что системы искусственного интеллекта распространяют дезинформацию, отдают приоритет конфликтам и могут привести мир к бесконечной войне.
Выступая на мероприятии в Ватикане, посвященном презентации текста, первый Папа Римский из США выразил обеспокоенность тем, что некоторые автономные системы вооружения достигли такого уровня развития, что «практически вышли из-под контроля человека». На мероприятии присутствовал Крис Олах, соучредитель компании Anthropic, разработавшей инструменты на основе искусственного интеллекта Claude.
В пространном документе, известном как энциклика, под названием «Magnifica Humanitas» («Величественное человечество»), Лев XIII призвал к тому, чтобы право собственности на данные, полученные с помощью искусственного интеллекта, не оставалось исключительно в частных руках, чтобы политики защищали права работников и ограждали детей от влияния этой технологии, а также чтобы конкуренция между компаниями, занимающимися разработкой ИИ, была менее острой.
«Необходимо более активное политическое участие, способное замедлить процесс, когда все ускоряется», — написал он, призвав к созданию «надежной правовой базы, независимому надзору, информированию пользователей и политической системы, которая не снимает с себя ответственность».
Текст объемом почти 43 000 слов разрабатывался почти с самого избрания Лео чуть больше года назад.
«Человечество скатывается к жестокой культуре власти, где мир воспринимается не как ответственность, которую нужно нести, а как хрупкий промежуток между конфликтами», — писал Лео.
Он предупреждал, что некоторые лидеры могут рассматривать вооруженные конфликты как способ отвлечь внимание от внутренних проблем.
Лео также выступил против теории «справедливой войны» — доктрины, которую церковь использовала по меньшей мере с V века для оценки конфликтов и на которую недавно ссылались представители администрации Трампа, в том числе вице-президент католик Джей Д. Вэнс, в оправдание войны в Иране.
«Теория “справедливой войны”, которая слишком часто использовалась для оправдания любых войн, устарела», — написал он.
На мероприятии в Ватикане Олах поблагодарил Лео за то, что тот обратил внимание на риски, связанные с этой технологией, и сказал, что такие компании, как его собственная, нуждаются во внешнем контроле.
«Каждая передовая лаборатория в области искусственного интеллекта, включая Anthropic, работает в условиях определенных стимулов и ограничений, которые иногда могут вступать в противоречие с правильными поступками», — сказал он.
Лео также раскритиковал то, что он назвал «новыми формами рабства», от которых страдают те, кто обслуживает системы искусственного интеллекта, и рабочие, производящие устройства, на которых они работают. В качестве примера он привел детей, которые трудятся в опасных условиях, добывая редкоземельные элементы.
Отдельно папа римский признал, что католическая церковь не выступала с решительным осуждением трансатлантического рабства вплоть до XIX века, и принес личные извинения.
«Это рана в христианской памяти, — написал он. — От имени Церкви я искренне прошу прощения».
Вспоминая библейскую историю о Вавилонской башне, Лео призвал мир «отказаться от строительства очередной Вавилонской башни и объединить усилия для достижения общего блага», а также не опускать руки в борьбе с рисками, связанными с искусственным интеллектом.
«Никто не свободен от ответственности, — писал он. — У каждого из нас есть своя сфера деятельности.»
Комментариев (0)