Съоснователят на „Антропик“ Крис Олах призова изкуственият интелект да се контролира от религиозни лидери, правителства и гражданското общество

Съоснователят на американския гигант в областта на изкуствения интелект „Антропик“ (Anthropic) Крис Олах заяви, че развитието на изкуствения интелект не може да бъде оставено изцяло в ръцете на технологичните компании, като призова за по-голям контрол от страна на религиозните лидери, правителствата и гражданското общество, предаде Ройтерс.
Говорейки във Ватикана по време на представянето днес на първата енциклика на папа Лъв Четиринайсети, посветена на изкуствения интелект, Олах каза, че съществува „реална възможност“ изкуственият интелект да измести човешкия труд „в много голям мащаб“.
„Ако това се случи, подкрепата за тези, които ще бъдат засегнати, ще бъде морален императив от историческо значение“, добави той.
Според Олах компании като неговата работят под силен търговски и геополитически натиск, който може да противоречи на по-широките интереси на обществото.
„Всяка лаборатория за изкуствен интелект, работеща в авангарда... функционира в рамките на набор от стимули и ограничения, които понякога могат да влязат в конфликт с правилните действия“, предупреди още той, добавяйки, че дори изследователите с добри намерения остават под подобно влияние.
Олах заяви, че това прави външния контрол на изкуствения интелект изключително важен.
Базираната в САЩ „Антропик“ разработва инструменти, базирани на изкуствен интелект като чатбота „Клод“ (Claude). Компанията влезе в конфликт с администрацията на президента Доналд Тръмп, тъй като настояваше за ограничения за начина, по който моделите ѝ могат да се използват за военни цели, като например автономно насочване на оръжия или шпионаж на граждани.
Олах приветства ангажираността на Римокатолическата църква с бързо развиващата се технология, като заяви, че етичните въпроси, повдигнати от изкуствения интелект, излизат далеч извън рамките на инженерството.
„Въпросите, повдигнати от изкуствения интелект, са по-важни от самата изследователска общност в тази област“, каза той и призова за „искрени и задълбочени критици“, които да могат да поставят под въпрос действията на компаниите и да помогнат за насочването на мощни нови системи в положителна посока.
Съоснователят на „Антропик“, който е един от най-богатите хора в Канада, подчерта три области, които според него изискват спешно внимание – рискът от масови съкращения на работни места, необходимостта да се гарантира, че ползите от ИИ се разпространяват в целия свят, както и нерешеният въпрос как да се тълкува все по-сложното и понякога неясно поведение на системите.
„Развитието на ИИ е концентрирано в няколко богати държави. Как можем да гарантираме, че ползите от ИИ се разпределят в световен мащаб?“, подчерта Олах.