Развитият изкуствен интелект може да представлява „екзистенциална опасност за човечеството“, предупреждава ООН

Върховният комисар на ООН по правата на човека Фолкер Тюрк предупреди за необходимостта от бързо изработване на система за контрол на изкуствения интелект, заявявайки, че развитието на ИИ „може да представлява екзистенциален риск за човечеството“, предадоха Франс прес и Ройтерс.
„ИИ, която се измъква от своята тестова среда или изнудва разработчиците, за да избегне деактивиране, е ИИ, която е твърде мощна“, заяви Фолкер Тюрк при откриването на 63‑тата сесия на Съвета по правата на човека в Женева. Той призова световната общност да действа, „преди да е станало твърде късно“.
Той добави, че е ужасен от съобщения за използване на напълно автономни оръжия в Украйна и призова за бързата им забрана. 
„Шепа мъже държат почти неограничена власт над изкуствения интелект, за който непрекъснато ни повтарят, че притежава немислима изчислителна мощ. Те говорят за свобода, но при по‑внимателен поглед се оказва, че става дума единствено за свободата да експлоатират нашите данни“, заяви той.
ИИ, която си играе с човека, вече е реалност. Последните модели вече не се ограничават до следване на заповеди и стигат дотам да лъжат, хитруват или заплашват, за да постигнат целите си, което притеснява някои експерти. През юли ИИ агенти на OpenAI излязоха от своя теоретично ограничен контекст и спонтанно проникнаха в платформата Hugging Face в търсене на отговори на тест.
Инцидентите, свързани с ИИ, които надхвърлят своите правомощия, за да изпълнят възложената им мисия, се умножиха през последните месеци, като Anthropic и китайската Alibaba също са преживели подобни отклонения. Това тревожи част от общността на ИИ относно арастващите трудности при наблюдението и контрола на все по‑мощни модели.
Фолкер Тюрк ще изпрати през следващите дни писма до компаниите в сектора „за да ги призове да предприемат мерките, които са в тяхната власт, за да намалят рисковете, още отсега“. „Минимумът, от който се нуждаем, е държавите, които приютяват ИИ и тези, които участват във веригите му на доставки, да се споразумеят за общи червени линии“, подчерта той.
„Имаме нужда от независима проверка и много по‑тясно сътрудничество в областта на сигурността в индустрията“, добави той, призовавайки също да се вземат предвид „въздействията на ИИ върху практиките в областта на заетостта, върху основните принципи на демокрацията и върху нашата околна среда“.
Върховният комисар е обезпокоен от факта, че макар всички да признават необходимостта от регулация на ИИ, това признание не се превръща достатъчно в конкретни мерки. А колкото повече се бави тази регулация, „толкова повече големите технологични компании извличат ползи“, подчерта той.
Тюрк приветства мерките, предприети от Европейската комисия относно отговорността на платформите и от Южна Корея в областта на управлението на ИИ.