Папа Римский Лев XIV предупредил об угрозе контроля человечества со стороны владельцев ИИ
Папа Римский призвал не допустить, чтобы владельцы ИИ получили контроль над человечеством. Он также выразил обеспокоенность тем, что искусственный интеллект может усугубить конфликты на Земле.
Лев XIV опубликовал свою первую энциклику, посвященную искусственному интеллекту. Этот документ под названием "Великолепное человечество" ("Magnifica humanitas") утверждает, что ИИ должен служить людям, а не способствовать концентрации власти.
Ключевые положения документа были приведены изданием Vatican News:
- Технология не является силой, враждебной человечеству, или злом, но никогда не бывает нейтральной, потому что принимает черты тех, кто её разрабатывает, финансирует, регулирует и использует.
- Технологии не должны находиться в руках немногих, увеличивая разрыв между теми, кто включен в цифровую революцию, и теми, кто исключен из нее. В цифровую эпоху социальная справедливость требует обеспечения справедливого доступа к возможностям для всех людей, защиты наиболее уязвимых, борьбы с ненавистью и дезинформацией, а также подчинения использования технологий общественному контролю, "чтобы руководящим принципом была не только прибыль, но и достоинство каждого человека и общее благо всех людей".
- Необходим бдительный подход к ИИ. Выбор не должен диктовался исключительно эффективностью и прибылью. ИИ может имитировать и моделировать человека, но он не обладает моральным сознанием, эмпатией, межличностными или духовными способностями. Следует быть ответственными на каждом этапе разработки технологии, учитывая правовые рамки в области ИИ.
- Нельзя игнорировать воздействие новых технологий на окружающую среду, поскольку они требуют больших объемов энергии и воды.
- ИИ необходимо разоружить, освободить его от менталитета военной и экономической конкуренции: "Разоружение означает дискредитацию предположения о том, что техническая мощь автоматически дает право на управление. Разоружение не означает отказ от технологий, а предотвращение их господства над человечеством".
- ИИ порождает новые формы рабства, в том числе на добыче редкоземельных элементов, необходимых для технологий. Важно бороться с новыми формами рабства.
Также папа раскритиковал использование оружия, связанного с ИИ, поскольку "нет алгоритма, который мог бы сделать войну морально приемлемой".
"ИИ не устраняет присущую конфликту бесчеловечность; напротив, он может лишь быстрее вызывать конфликты и делать их более безличными, снижая порог для применения насилия, превращая оборону в прогнозирование угроз и тем самым сводя жертв к данным. Таким образом, он приучит нас к мысли, что насилие неизбежно и нуждается лишь в оптимизации", - отметил понтифик.
Напомним, мысли том, что искусственный интеллект в современных войнах может стать "оружием массового поражения", уже звучат со стороны компаний, которые уже применяют ИИ в военных технологиях