Изкуственият интелект има огромен потенциал, но крие сериозни рискове, отчита в свой доклад експертна група към ООН

Бързото развитие на изкуствения интелект (ИИ) предлага значителни възможности за икономиката, науката и обществото, но същевременно създава сериозни рискове, които изискват по-добро международно управление и научно обоснована регулация. Това се посочва в първия доклад на независима експертна група към Организацията на обединените нации (ООН), изготвен от 40 водещи учени и специалисти и цитиран от Ройтерс.
Докладът ще бъде представен пред правителствата по време на първия Глобален диалог на ООН за управлението на изкуствения интелект, който ще се проведе в Женева на 6 и 7 юли. Форумът има за цел да насърчи изработването на международни правила за развитието на технологията, които да отразяват интересите на всички държави, а не само на най-напредналите в технологично отношение. Това е първата независима глобална научна оценка на изкуствения интелект, като през следващата година се очаква публикуването на по-подробен и всеобхватен доклад.
Членовете на експертната група са избрани от всички световни региони с тригодишен мандат и работят независимо от правителства, компании и други институции.
Според авторите на доклада развитието на изкуствения интелект изпреварва както научното разбиране за неговите възможности, така и способността на правителствата да изграждат адекватна регулаторна рамка. В същото време липсват достатъчно ефективни механизми за контрол върху високoавтономните системи с изкуствен интелект.
Съпредседателят на експертната група Йошуа Бенджио  (канадски компютърен учен и пионер в областта на изкуствените невронни мрежи) посочва, че вече се натрупват доказателства за подвеждащо поведение на някои системи с изкуствен интелект. По думите му науката не може да гарантира, че с повишаването на способностите им те няма да причинят катастрофални вреди самостоятелно или чрез злоупотреба от страна на недобросъвестни потребители.
„Потенциалните ползи от изкуствения интелект са огромни“, пише в доклада. Според авторите обаче бързото и неконтролирано внедряване на технологията в голям мащаб крие сериозни рискове, включително вреди за психичното здраве на потребителите, възможност за използването ѝ като разрушителен инструмент, въздействие върху социалните, икономическите и екологичните системи, както и предизвикателства, свързани с контрола върху самата технология.
В доклада се отчита, че използването на изкуствен интелект се разширява бързо в различните държави и отрасли, но неравномерно. В световен мащаб повече от един милиард души използват разговорни системи с изкуствен интелект всяка седмица, докато внедряването на технологията в развиващите се страни изостава.
Разработването на изкуствен интелект е още по-силно концентрирано. САЩ разполагат със 75 на сто от изчислителната мощност на 500-те най-мощни суперкомпютъра за изкуствен интелект в света, а Китай - с 15 на сто.
Авторите обръщат внимание и на езиковото неравенство. Въпреки че по света се говорят над 7000 езика, съвременните модели с изкуствен интелект са обучени само за малка част от тях. Машинният превод при някои езици остава неточен, което може да доведе до грешки при поставянето на диагнози и вземането на решения за лечение.
Сред основните рискове са посочени възможните отрицателни последици за човешките права, обществените системи и околната среда. Докладът предупреждава и за все по-честото разпространение на генерирани с изкуствен интелект материали със сексуално насилие над деца, както и на сексуално насилие, подпомогнато чрез дийпфейк технологии.
Според експертите изкуственият интелект улеснява и масовото създаване и насочване на убедително съдържание към конкретни аудитории, което допринася за постепенното подкопаване на достоверността на информацията, отслабва общественото доверие, социалното единство и качеството на демократичния дебат.
В доклада се посочва още, че повечето държави, включително развитите икономики, не разполагат с достатъчно технически експертен капацитет, за да оценяват най-напредналите модели с изкуствен интелект или да участват пълноценно в изработването на правилата за тяхното управление.