Човешко достойнство, корпоративна отговорност, развитие на технологиите без монополен контрол - визията на папа Лъв XIV за бъдещето на ИИ

Папа Лъв XIV публикува първия важен богословски текст на своя понтификат, предупреждавайки за нарастващата сила на изкуствения интелект (ИИ) и призовавайки за по-строго регулиране на технологията, съобщава „Таймс“. 
Енцикликата от 42 300 думи „Великолепното човечество“ (Magnifica Humanitas) бележи най-обширното изявление на папа Лъв XIV досега относно обещанията и опасностите от ИИ, тема, за която той многократно е говорил през първата годината от избирането му. Оформена като апел за защита на човечеството в един бързо автоматизиращ се свят, текстът призовава правителствата, корпорациите и отделните лица да забавят темпа на технологично развитие и да гарантират, че изкуственият интелект остава обект на етичен и политически надзор. 
Папата подчертава в документа, че не е против иновациите. Вместо да отхвърля технологичния прогрес, той пише, че „технологиите не трябва да се разглеждат сами по себе си като сила, антагонистична на човечеството“, а вместо това трябва да се ръководят от отговорно и етично използване. Но той предупреждава, че без по-силни предпазни мерки ИИ може да задълбочи неравенството, да отслаби човешката дейност и да измести критичните решения все повече от човешкия фактор.
„Призивът за благоразумие, строга оценка и дори понякога по-бавно темпо при приемането на ИИ не означава противопоставяне на прогреса“, пише Лъв. 
„Това е упражняване на отговорна грижа за човешкото семейство“, подчерта той. 
Папата издигна ИИ като централен проблем малко след като беше избран за глава на Римокатолическата църква, като каза на Колегията на кардиналите, че Католическата църква ще се изправи срещу рисковете, които технологията представлява за човешкото достойнство, справедливостта и труда, фокус, към който той се връща в речите си през първата си година като папа. 
Фокусът на Лъв върху ИИ се отразява и в самото му папско име, което той избира във връзка с папа Лъв XIII, чиято енциклика от 1891 г. „Rerum Novarum“  разглежда социалните последици от индустриалната революция и поставя основите на съвременното католическо социално учение за труда и технологиите. Лъв XIV направи директно сравнение между настоящия момент на технологично развитие и този, с който се сблъска най-скорошният му съименник повече от век по-рано, описвайки изкуствения интелект като въвеждащ нова индустриална революция.
Как „Великолепното човечество“ се основава на тези, предложени от предишни папи?
Енцикликата е един от най-значимите документи, които един папа може да издаде. Традиционно написани като писма до католическите епископи, енцикликите предлагат авторитетни насоки по основни морални, социални или политически въпроси и често оформят католическата мисъл в продължение на поколения, дори влияейки на дебати, които достигат далеч отвъд Ватикана.
Енцикликата, с която тази на Лъв най-ясно се сравнява, е „Rerum Novarum“, често превеждана като „За новите неща“, на папа Лъв XIII. Написана по време на Индустриалната революция, тя разглежда правата на работниците, икономическото неравенство и социалните последици от бързата индустриализация, застъпва се за защита на труда, като същевременно предупреждава както за нерегулирания капитализъм, така и за заплахата от социализма. Тя се превърна в основополагащ текст на съвременното католическо социално учение, значение, за което настоящият папа говори директно в новоиздадената си енциклика.
„С този документ моят любим предшественик даде тласък на размисъл върху обществото, икономиката и политиката, който сега е известен като „Социална доктрина на Църквата“, пише той. 
„Когато някои възразиха, че Църквата не трябва да хаби енергия за светски въпроси, а вместо това да се съсредоточи върху предаването на посланието за вечен живот, Лъв XIII отговори с реализъм и мъдрост, казвайки, че провъзгласяването на Евангелието не може да пренебрегва конкретния живот на хората“, изтъкна понтификът. 
Лъв XIV изрази желанието си да „добави собствения си глас към тази жива традиция“ с първата си енциклика, която официално подписа на 15 май, точно 135 години след публикуването на „Rerum Novarum“, допълнително подчертавайки паралелите между документите.
„Великолепното човечество“ също продължава по-широка традиция от папски текстове, разглеждащи основни глобални проблеми. Енцикликата на папа Йоан XXIII от 1963 г. „Pacem in Terris“ разглежда ядрените заплахи и световния мир по време на Студената война. „Humanae Vitae“ на папа Павел VI, издадена през 1968 г., предизвика десетилетия дебати относно контрола на раждаемостта и църковната власт. Съвсем наскоро, енцикликата на папа Франциск от 2015 г., фокусирана върху околната среда, „Laudato Si’“, определи изменението на климата като морален и духовен проблем.
За какво предупреждава и за какво настоява папа Лъв във „Великолепното човечество“? 
В енцикликата папата очерта рисковете, които според него представлява изкуственият интелект, и предложи отговори, които правителството, компаниите и обществото като цяло биха могли да предприемат, за да се справят с тях.
Отразявайки опасенията, насочени към работниците в „Rerum Novarum“, той предупреди, че бързата автоматизация може да измести хората и да промени пазарите на труда по начини, които биха рискували да оставят мнозина в „принудително бездействие“, подкопавайки както човешкото достойнство, така и социалната стабилност.
„Стремежът към по-големи печалби не може да оправдае избори, които систематично жертват работни места“, написа той и изрази загриженост относно генерираната от ИИ дезинформация, по-специално нейното въздействие върху децата и младите хора, както и концентрацията на власт в развиващата се технологична област сред малък брой компании.
Някои от най-силните му думи в документа са насочени към въздействието, което ИИ може да окаже във войната. Той предупреди, че технологията улеснява воденето на конфликти и позволява те да се водят с по-голяма психологическа дистанция.
„Нарастващата лекота, с която могат да бъдат разположени автономни оръжейни системи“, пише той, „прави войната по-осъществима и по-малко подложена на човешки контрол.“
Въпреки че предупреждава за опасностите, породени от технологията, Лъв също така описа потенциала на изкуствения интелект като „дар, който може да облекчи страданието и да отвори нови възможности“, стига да е насочен към ценности, ориентирани към човека, а не към печалби или концентрация на контрол.
За тази цел той твърди, че правителствата не могат да оставят бъдещето на ИИ да бъде оформено единствено от частни компании или невидимата ръка на пазара. Вместо това той призова за „стабилни правни рамки, независим надзор, информирани потребители и политическа система, която не се отказва от отговорността си“, за да се гарантира, че технологията служи на общото благо.
Като твърди, че „не можем да считаме ИИ за морално неутрален“, той също така пише, че отговорността трябва да бъде ясно дефинирана на всеки етап, така че да е възможно да се определи кой трябва да отчита решенията, да ги обосновава, да ги наблюдава и, когато е необходимо, да ги оспорва и да противостои на всяка причинена вреда. 
Отвъд регулаторните предпазни мерки, той призова за това, което определи като „разоръжаване“ на ИИ чрез „освобождаването“ му от монополен контрол и излагането му на по-широка дискусия и дебат.
„Това, което е необходимо“, пише той, „е по-активно политическо участие, което е способно да забави нещата, когато всичко се ускорява, и да защити възможностите на общностите все още да могат да участват и да задават въпроси“, заявява папата. 
Вицепрезидентът на САЩ Джей Ди Ванс, който се обърна към католицизма през 2019 г., каза пред Ен Би Си Нюз, че не е чел цялата енциклика, но откъсите, които е прочел, са „много дълбоки и са нещо, което бихте очаквали и надявали от църковен лидер“.
Похвалата на Ванс за папата идва седмици след като той призова Лъв да „бъде внимателен“, когато говори по богословски въпроси, след като папата отбеляза, че Исус Христос „никога не е на страната на онези, които някога са държали меч, а днес хвърлят бомби“.
Министърът на вътрешните работи на САЩ Дъг Бъргъм разкритикува папата в предаване по „Фокс Бизнес“. 
„Не знаех, че технологичната редакция е част от ролята на това да си папа“, каза той. 
Бъргъм защити изграждането на центрове за данни с изкуствен интелект, които изискват огромни количества електроенергия, като „положително за човечеството“ и омаловажи опасенията, че това може да натовари доставките на енергия и да повиши цените, предполагайки, че някои щати имат високи разходи за енергия поради политиките, които са следвали, като например ползването на ненадеждни, зависими от атмосферните влияния източници, припомня „Форбс“. 
Предшествениците на Лъв XIV обикновено са възлагали ролята за представяне на енциклика на кардинали или други висши фигури, отбелязва Си Ен Ен. Вместо това, папата ръководеше издаването на документа от 235 страници заедно с Кристофър Олах, съосновател на „Антропик“ (Anthropic), компания за изкуствен интелект, която е в правен спор с администрацията на Тръмп относно използването на нейната технология във военни операции.
Олах, който каза, че е разговарял с 15 различни религиозни лидери относно ИИ, каза пред американската медия, че вярва, че последиците от технологията отиват „далеч отвъд научните въпроси“ и засягат „човешкия просперитет“ и „как изглежда един добър свят“.
„Някои може да вярват, че въпросите, свързани с ИИ, се решават най-добре от компютърни специалисти като мен. Те грешат. Въпросите, повдигнати от ИИ, са по-големи от изследователската общност в областта, не само по своите последици, но и по своята същност“, каза Олах в речта си във Ватикана, публикувана на официалния сайт на „Антропик“. 
„Системите с ИИ не са проектирани по начина, по който се проектира мост или самолет. Разбираме самолета, защото сме проектирали всяка негова част и разбираме физиката, която действа върху него. Моделите с ИИ не са такива. Те са израснали върху структура, грубо моделирана по подобие на мозъка, върху огромно наследство от човешка мисъл и реч“, обясни той. 
„Това очевидно повдига въпроси отвъд компютърните науки. Машините, които правят това възможно, са дело на математиката, програмирането и науката. Но какъв герой избираме, как той взаимодейства със света, как трябва да взаимодейства със света – това са въпроси за хуманитарните науки, за религията, за философията, за обществото като цяло“, смята съоснователят на „Антропик“. 
„Една от най-мощните сили, които могат да се противопоставят и вместо това да предизвикат надпревара към върха, е когато много хора, които се интересуват от това да се случват правилните неща, са дълбоко ангажирани, обръщат внимание и разбират ситуацията“, каза Олах. 
Той се определи като дълбоко поласкан да сподели платформа с папата за публикуване на текста на енцикликата, а фактът, че църквата и в по-широк смисъл светът се ангажира с технологията, помогна тя да бъде насочена към постигане на добри резултати. 
Олах също така не смята, че ИИ може да замести религията. 
Включването на Олах при представянето на документа обаче показва, че Ватиканът се стреми да повлияе директно на тези, които участват в разработването на технологията, а не просто да говори отстрани, подчертава Си Ен Ен. 
Папа Лъв вече е обсъждал темата няколко пъти, предупреждавайки за „прекалено привързаните“ чатботове, изпращайки послание до технологични ръководители, срещащи се по тази тема във Ватикана, и призовавайки свещениците да не използват ИИ, когато пишат своите проповеди.
Няколко дни преди публикуването на енцикликата, папата взе необичайното решение да създаде междуведомствена ватиканска комисия за ИИ, която ще изследва ефектите от технологията.
Олах не твърди изрично, че Клод на „Антропик“ става съзнателен, но предложи тази възможност да бъде приета сериозно, заяви в статия за „Ню Йорк Таймс“ Джордж Вайгъл, старши сътрудник в Центъра за етика и публична политика и автор на книгата „Свидетел на надеждата: Биографията на папа Йоан Павел II“. 
„Аз съм учен. Ръководя изследователски екип, който изучава вътрешната структура на тези модели – какво всъщност се случва вътре в тях. И ще бъда честен: продължаваме да откриваме неща, които са мистериозни, дори обезпокоителни. Откриваме структури, които отразяват резултатите от човешката невронаука. Откриваме доказателства за интроспекция. Откриваме вътрешни състояния, които функционално отразяват радост, удовлетворение, страх, скръб и безпокойство. Не знам какво означава това, но мисля, че е необходимо постоянно разсъждение“, заяви Олах. 
В разликата между папата и изследователя можете да видите един откъс от един голям дебат за ИИ: до каква степен трябва да очакваме в крайна сметка да бъде нормална технология по своята природа и ефекти, смята Вайгъл. 
Наричането на изкуствения интелект нормален не означава, че той е маловажен или че няма да промени света. Това просто означава, че ще бъде революционен по начина, по който телефонът, персоналният компютър или интернет бяха революционни, вместо, да речем, бързо да удвои продължителността на човешкия живот или да даде възможност на машините да ни унищожат. И това предполага, че обичайните начини, по които подхождаме към нова технология - конкуренция и иновации, регулиране и адаптация, са подходящи за ерата на ИИ и можем да ги обсъждаме, без да се страхуваме, че земята внезапно ще се стопи под краката ни.
Чарлз Камози, морален теолог в Католическия университет и съавтор на кратка статия в подкрепа на „Антропик“ в неотдавнашния спор с Пентагона за това как военните могат да използват технологиите си, смята, че Лъв е избрал точния момент. 
„Струва ми се, че Лъв дори е избран за папа, отчасти за да организира католическия отговор, който ще бъде аналогичен на отговора на индустриалната революция“, каза Камози, цитиран от Вашингтон пост. 
„Толкова много хора търсят начини да осмислят случващото се тук“, продължи той. 
„И религиозните институции могат да кажат: „Това не е първата индустриална техническа революция, която преживяхме. Ето как реагирахме с католическото социално учение в миналото”, посочи теологът. 
„Нямам съмнение, че компаниите за граничен ИИ биха искали да работят с религиозни общности, за да внесат етично одобрение за работата си“, заяви Паоло Кароца, професор по право в Католическия университет Нотр Дам.  „Това ме дразни … Добре е да се помни, че църквата не е против технологиите“, добави той. 
Преподобният Андреа Чучи, канцлер на Папската академия в Рим, се противопостави на критиките. „Тези, които създават технологията, също трябва да носят отговорност“, каза Чучи. „Така че трябва да говорим с тях“, заяви духовното лице. 
Видни технологични лидери осмиват онези, които призовават за по-строго регулиране на ИИ или за забавяне на технологичния напредък, наричайки ги „забавящи“ или „обречени“.
Лъв XIV директно се противопоставя на тези гласове, твърдейки, че искането за предпазливост по отношение на начина, по който се развива ИИ, не означава противопоставяне на прогреса като цяло. Човешкото общество трябва да разработи силни правни рамки и надзор върху тази технология, преди да ѝ бъде позволено да напредва, казва той. 
Той изследва склонността на технологиите да създават нови зависимости, тъй като платформите се борят да привлекат времето и вниманието на потребителите. И в същото време се задълбочава в други злини, включително трафика на хора, предлагайки mea culpa (фраза на латински, означаваща признаване на вина) за историческата роля на християнството в робството.
И все пак понтификът никога не се отдалечава от централната си тема, която някои биха могли да възприемат като анти-прогрес, дори когато други я приемат като мъдро предупреждение - молба ИИ да служи на целта да помогне на човечеството да процъфтява, вместо да се стреми да го засенчи или да отнеме това, което ни прави хора.
„Никаква изчислителна система, колкото и сложна да е, не може да създаде сърце, което се отдава, или съвест, която разграничава доброто от злото“, пише той.
Думите на един папа нямат същата тежест, каквато са имали през отминалите вековете. Но документът идва в момент, когато Лъв, вече година след като е встъпил в длъжност, е все по-приет в световен мащаб като един от най-влиятелните защитници на човешкото достойнство и мира в света. 
В пасаж, който изглежда насочен към Силициевата долина, папата предупреди, че властта над цифровите системи, инфраструктурата и данните „не е в ръцете на държавите, а на основните икономически и технологични участници“ и че когато такава власт е концентрирана „в ръцете на малцина“, тя има тенденция „да стане непрозрачна и да се изплъзва от обществения надзор, увеличавайки риска от изкривени форми на развитие, които пораждат нови зависимости, изключения, манипулации и неравенства“, информира „Гардиън“. 
Наред с двама от кардиналите му, на представянето присъстваха и теолозите Анна Роуландс и Леокадия Лушомбо.
Роуландс, професор по католическа социална мисъл в университета Дърам, заяви, че енцикликата „носи визията на Евангелието относно културите на ИИ“ и по този начин „предупреждава за нарастваща култура на власт, която преобразява работата, семейството, образованието и политическия живот“.
Ватиканът е сериозно ангажиран с въпроси, свързани с ИИ, от няколко години, включително провежда редовни диалози с представители на „Майкрософт“, „Гугъл“ и други големи технологични компании.
Папата заяви, че католическата църква иска да работи с разработчиците на изкуствен интелект, за да обсъди правилното използване на технологията.
„Това, което Лъв направи в този документ, е да постави цялата тежест на поста си зад усилията на католическата църква да бъде в диалог с големите технологични компании“, каза Кристофър Уайт, автор на „Папа Лъв XIV: Вътре в конклава и зората на ново папство“ и старши сътрудник в Инициативата за католическа социална мисъл и обществен живот на университета Джорджтаун.
„Той очевидно подхожда към изкуствения интелект от позиция на смирение и ясно заявява, че църквата няма всички отговори, когато става въпрос за това какви политики са необходими за регулиране. Но той е недвусмислен, че развитието на ИИ не може просто да бъде Дивият запад, както някои от неговите защитници биха искали да видят.“
В реакция на енцикликата, Кристин Алън, главен изпълнителен директор и директор на католическата благотворителна организация Католическа агенция за задгранично развитие (CAFOD), заяви, че посланието на папата говори за „присъщото достойнство на човечеството“.
„Ние не сме просто инструменти за производство, а живи същества, на които е поверен морален компас“, добави тя.
„В свят, пълен с дисбаланси, ние имаме задължението да използваме изкуствения интелект отговорно. Днешното послание е, че той не трябва да се използва за по-нататъшно изостряне на неравенството и страданието“, подчерта Алън, цитиран от "Гардиън".