Срещата на върха „ИИ за добро“, която се провежда от 2017 г., тази година постави нов рекорд по посещаемост, предаде Евронюз. Робот с лицето на Марк Зукърбърг намига на публиката. Секунди по-късно лицето му се преобразява в това на Барак Обама. Това е един от многото експонати в конгресен център в Женева, където над 12 000 участници от 177 държави се събраха за срещата и съпътстващите я прояви. Събитието отразява нарастващото усещане за неотложност по въпросите, свързани с изкуствения интелект (ИИ), тъй като правителствата и индустриите се опитват да бъдат в крак с технология, която се развива по-бързо, отколкото много регулаторни системи могат да реагират.
Навсякъде на в изложбената зала провеждане хуманоиди, роботизирани протези и други технологии с ИИ предлагат поглед към посоката, в която се развива тази технология. Един от тях е Робърт, робот, създаден от базираната в Женева компания „Ар Би Лабс“ (RB Labs). На няколко метра разстояние е Линг Си, роботизирано куче водач, управлявано от мобилен телефон. Производителят „Чайна Мобайл“ (China Mobile) твърди, че е проектирано да помага на незрящите хора да живеят по-независимо. Всяка бройка струва 4000 долара (около 3506 евро).
Организаторите казват, че срещата на върха е привлякла нарастващо внимание, тъй като хората се опитват да разберат какво може да означава бързият напредък в големите езикови модели и автономните системи за бъдещето.
„Създадохме „ИИ за добро“ през 2017 г. и ако се замислите, това е цяла вечност по отношение на годините, свързани с изкуствения интелект, нали, защото изкуственият интелект се развива толкова бързо“, каза Фред Вернер, ръководител на отдела за стратегическо ангажиране в Международния съюз по телекомуникации.
„Мисля, че сега навлизаме в това, което бих нарекъл свят с нулеви кликвания, където агентите на изкуствения интелект не чакат нашите подкани, а всъщност действат от наше име, автономно. А след това разглеждаме по-физическото проявление под формата на усъвършенствана роботика, автономна мобилност, интерфейси мозък-компютър и дори космически изчисления“, добави Вернер.
Тази промяна от софтуер към физически свят е видима на цялата изложбена площ.
Швейцарската компания „Абилити Нюротек“ (Ability Neurotech) казва, че нейният интерфейс мозък-компютър може да върне способността за комуникация, говорене или движение на хора, които са я загубили.
Нейният имплант се поставя върху повърхността на мозъка и отчита невронни сигнали, които остават непокътнати при пациенти със състояния като амиотрофична латерална склероза (АЛС), инсулт или травми на гръбначния мозък. След това данните се изпращат към процесор, който ги декодира в реално време.
Компанията посочи, че системата се доближава до естествената реч.
„Говорим със 140 думи в минута, приблизително. И това, което правим, е да възстановим капацитета от 70 или 80 думи в минута, в реално време, за пациенти, които не могат да правят това днес“, каза Ротем Копел, главен изпълнителен директор на компанията.
На щанда на Корейския институт за напреднали науки и технологии е представена тазобедрена протеза, предназначена да поддържа хора с ограничена мобилност.
„Използваме изкуствен интелект, за да персонализираме и оптимизираме алгоритмите за управление на походката, особено за хора с увреждания“, каза Ким Йонуон, постдокторант в Корейския институт за напреднали науки и технологии.
През няколко щанда бе прототипът на инвалидна количка, която може да се управлява с глас и прости жестове с ръка, използвайки сензори за камера и микрофони.
Според разработчика ѝ Адвайт Шинде, който преподава мехатроника в Университета на Западна Англия, изборът да не се съхраняват тези данни в облака е бил съзнателен.
„Тъй като това е медицинско устройство, не искаме потребителските данни да отиват в облака или онлайн. Ето защо използваме локален модел с изкуствен интелект“, посочва Шинде.
Междувременно в младежката зона отбори се състезаваха в младежкото предизвикателство „Роботика за добро“.
Около 250 деца от 50-те национални отбора участваха в тазгодишното състезание. Ученици на възраст едва десет години бяха изградили роботи от нулата, използвайки разнообразни материали, които могат да намерят на местно ниво, за да отговорят на тазгодишната тема – продоволствена сигурност.
Събитието беше проведено, докато Женева бе домакин на по-широка среща на върха на ООН за ИИ, където присъстваха над 4000 делегати от 193 държави, за да обсъдят първия Глобален диалог на ООН за управление на ИИ.
Генералният секретар на ООН Антонио Гутериш призова смъртоносните автономни оръжия да бъдат забранени от международното право по време на речта си на срещата, цитиран от „Уолстриий Джърнъл“.
Изказването му повдига отново спора за безопасността на ИИ, който беше в основата на разкола на технологичния стартъп „Антропик“ (Anthropic) с Пентагона по-рано тази година.
„Машините избират и атакуват целта си и отнемат живот – без човешки контрол и преценка. Това е морално отвратително“, заяви Гутериш.
„Нека ги наречем каквито са: роботи убийци“, категоричен бе Гутериш.
Системи с изкуствен интелект и чипове, предназначени за гражданска употреба, все по-често се разполагат както на бойното поле, така и във военните щабове. Това поставя началото на дебат за това кога военните трябва да използват ИИ, кога хората трябва да се намесят и кой трябва да реши къде да се поставят границите.
Дебатът избухна публично в началото на тази година, когато „Антропик“ поиска уверения от Пентагона, че неговите модели с ИИ няма да бъдат използвани за захранване нито на системи за вътрешно наблюдение, нито на автономни оръжия. Пентагонът, който по това време беше сериозен потребител на инструментите на компанията, отказа, заявявайки, че трябва да му бъде позволено да използва ИИ на „Антропик“ за всички законни цели. Двете страни все още водят съдебни спорове.
Папа Лъв XIV изложи аргументите за забрана на оръжия, контролирани от ИИ, и „автономната война“ в папската си енциклика тази пролет, предупреждавайки, че тези системи заплашват да „нормализират античовешката визия“. Според него оръжейните системи, задвижвани от ИИ, рискуват да намалят политическите разходи за войната за тези, които притежават усъвършенствана технология, правейки войната „по-осъществима и по-малко подлежаща на човешки контрол“. Но напредъкът се движи бързо на бойното поле. Поддръжниците на тези оръжия и отбранителните компании твърдят, че автономните оръжия ще останат под човешки контрол, като технологията ще позволи на човешките командири да работят с по-голяма (и по-необходима) прецизност и скорост.
Критиците смятат, че системите правят грешки, което прави опасно за хората да отстъпват контрола на машините в критични моменти. Някои активисти за безопасността на изкуствения интелект, много от които вече се притесняват, че системите ще излязат от човешки контрол и ще се обърнат срещу своите създатели, твърдят, че „въоръжаването“ на технологията само би ускорило опасността.
Дебатът идва на фона на нарастваща обществена реакция в САЩ и други страни относно потенциалните негативни ефекти от революцията в областта на ИИ, включително масово заместване на работни места и увеличение на цените на електроенергията. В САЩ администрацията на Тръмп отмени миналия месец едноседмичната забрана за износ на два мощни модела от „Антропик“, но дебатът за това как да се регулират системите с ИИ остава. Администрацията информира, че работи върху процес за тестване на моделите за безопасност преди пускането им на пазара.
„Нека не чакаме да бъде извършено зверство, за да действаме“, подчерта Гутериш.
„Някои решения трябва да останат завинаги човешки“, допълни той.
Гутериш очерта четири приоритета за управлението на ИИ: безопасност, човешки права, капацитет и прозрачност, съобщи Синхуа.
„Въпросът е дали ще оформим тази трансформация заедно или ще я оставим да ни оформи“, каза той.
Генералният секретар на ООН се надява диалогът да превърне широкото глобално участие в конкретни действия, помагайки ИИ да стане „по-безопасен, по-справедлив, по-достъпен и по-етичен“.
Системите с ИИ „вече не са инструменти, чакащи инструкции. Те пишат код, действат онлайн и правят избори с все по-малко човешки надзор“, предупреди Гутериш, цитиран от Франс прес.
„Нашите институции са създадени, за да управляват машини, които следват команди. Те не са готови за машини, които решават“, посочи той.
Гутериш изрази загриженост от това как ИИ прикрива кое е истина и кое лъжа.
Той също така предупреди, че има нарастваща тенденция важни задачи да се оставят на технологиите и сляпо да се доверявате на резултатите.
Така нареченото вайбкодиране, или използването на ИИ, за да се каже на машина какво искате, вместо сами да го кодирате, „може да направи чудеса“, призна той и добави, че не може да се направи вайбкодинг на истината, нито на човечеството.
Друг риск, отбелязан от Гутериш, е концентрацията на власт в няколко компании за изкуствен интелект и в няколко държави.
Повечето държави „нямат думата при решенията, които ще оформят бъдещето им“, предупреди той.
Генералният секретар на ООН подчерта потенциала на технологиите с ИИ за всичко - от ускоряване на развитието до подобряване на здравеопазването и осигуряване на по-широк достъп до образование.
Но той настоя, че развитието трябва да се ръководи от няколко ключови приоритета, включително безопасност и зачитане на правата на човека, за да се гарантира, че хората навсякъде ще се възползват от предимствата.
Всяко бъдещо споразумение трябва да бъде „достойно за глобално доверие“ и да дава приоритет на безопасността, особено на безопасността на децата, за да ги предпази от манипулация и злоупотреба, които стават все по-възможни заради цифровите технологии, каза той.
„Не позволяваме на лекарствата да достигат до дете, докато не се докаже, че са безопасни. Тестваме всяка играчка“, посочи Гутериш.
Той призова за обещание за безопасност на подрастващите, изискващо от компаниите да докажат, че всяка система, достъпна за тях, е безопасна и има нулева толерантност към сексуално насилие.
Системите трябва също така да свързват всяко дете, показващо признаци на дистрес, с реална човешка подкрепа, каза той.
„Никое дете не трябва да бъде опитно зайче за нерегулиран изкуствен интелект“, настоя той.
Повишаването на капацитета и достъпа до технологията в развиващите се страни също е ключово, каза той, за да се гарантира, че съществуващото дълбоко цифрово разделение няма да се втвърди в разделение, основано на ИИ.
Гутериш заяви, че ще призове Общото събрание на ООН да създаде Глобален фонд за изкуствен интелект, „за да се изградят умения, данни и достъпна изчислителна мощност навсякъде“.
„Може би сме последното поколение, способно да определи условията, при които човечеството и машините съществуват едновременно“, каза той.
„Вратата все още е отворена. Няма да остане отворено за дълго“, смята генералният секретар на ООН.
Председателката на Общото събрание на ООН Аналена Бербок заяви, че е кристално ясно, че фондът ще бъде създаден, но не посочи конкретни суми.
„В свят с милиарди и трилиони парите едва ли са предизвикателството“, каза тя пред репортери, добавяйки, че „основното предизвикателство е, че се харчат в ползата на всички“.
Бербок призова за колективни действия за справяне с тъмната страна на нововъзникващите технологии в своите изказвания. Данните сочат, че 99% от съдържанието с дийпфейкове е със сексуален подтекст, като 96% са насочени към жени и момичета, посочи тя, цитирана от Синхуа.
Специалният пратеник и съветник на генералния секретар на ООН за цифровите и нововъзникващи технологии Амандийп Сингх Гил заяви, че ИИ е твърде важен, за да бъде оформен от малцина.
„Нуждаем се от разговор, който е глобален, приобщаващ и основан на доказателства“, каза той.
Не се очакват конкретни решения от събитието в Женева, но съпредседателят на диалога Егриселда Лопес заяви пред репортери, че това ще създаде добри основи за бъдещата работа, съобщи АФП.
По време на конференцията представители на правителства, бизнес и академични среди подчертаха важността на създаването на адаптивни рамки за управление, преодоляването на цифровото разделение, укрепването на международното технологично сътрудничество и защитата на правата на човека.
Участниците също така призоваха за преминаване от абстрактна етика към конкретно прилагане, насърчавайки развитието на приобщаваща, ориентирана към човека екосистема от изкуствен интелект.
На конференцията Независимият международен научен панел по въпросите на изкуствения интелект представи доклад, изготвен от 40 независими експерти в продължение на три месеца, съдържащ оценка на възможностите, рисковете и въздействията от развитието му.
Дневният ред на Срещата на върха на ООН за ИИ включваше сегмент на високо равнище, тематични сесии и странични събития, обхващащи възможностите и рисковете, преодоляване на разделенията, международно сътрудничество и човешки надзор върху системите.
Агенцията на ООН за цифрови технологии обяви миналия четвъртък нова инициатива за подобряване на доверието в ИИ агентите, тъй като все по-автономните системи пораждат опасения относно отчетността и човешкия надзор, информира Ройтерс.
Агентите с ИИ са ново поколение системи, предназначени да действат независимо от името на потребителите, изпълнявайки задачи, вариращи от планиране и покупки до сложни бизнес процеси.
Въпреки че могат да подобрят производителността, те също така носят риск да се представят за хора и да вземат неоторизирани решения, според Международния съюз по далекосъобщения (ITU).
За да се справи с рисковете, ITU заяви на срещата на върха „ИИ за добро“, че ще създаде фокус група.
Тази група ще разработи рамки, насочени към гарантиране, че агентите остават разпознаваеми, надеждни и подлежащи на смислен човешки контрол, особено в чувствителни области като финансови транзакции и критична инфраструктура.
„Агентите с изкуствен интелект скоро ще преговарят, ще сключват транзакции и ще вземат решения от наше име“, каза съпредседателят на фокус групата Дебора Компарин, добавяйки, че са необходими общи международни основи, за да се установи кои са агентите и как и кога може да им се вярва.
Групата ще бъде съставена от технически, политически и правни експерти и ще проведе първата си среща в Париж през ноември, а втората - в Женева през януари 2027 г.