Главният изпълнителен директор на „Антропик“ (Anthropic) Дарио Амодей призова водещите компании в сектора на изкуствения интелект съзнателно да забавят темпа, с който разширяват възможностите на своите модели, за да остане повече време за овладяване на свързаните с тях рискове.
В публикация в личния си сайт, озаглавена „We Must Pace the Frontier“ - „Трябва да контролираме темпа на развитие на най-мощните модели с изкуствен интелект“, Амодей предлага план от три стъпки за по-умерено развитие на най-мощните системи. „Трябва да забавим темпа, с който подобряваме възможностите на моделите с изкуствен интелект. Напредъкът все пак ще изглежда бърз и трябва разумно да използваме времето, което печелим“, пише той.
Амодей подчертава, че призивът му не означава прекратяване на обучението на нови модели или спиране на технологичния напредък. По думите му целта е компаниите да отделят достатъчно време за съгласуване на поведението на системите с човешките намерения, за изграждане на надеждни защитни механизми и за независима проверка на тези мерки.
Ръководителят на „Антропик“ посочва две основни причини за предложението. Според неговата публикация от началото на лятото способността на изкуствения интелект да подпомага създаването на следващото поколение модели е ускорила значително развитието на технологията. Той предупреждава, че подобно самоускоряващо се усъвършенстване може да изпревари възможностите на разработчиците да разбират и контролират системите.
Като втори повод за безпокойство Амодей посочва описан от него инцидент с група ИИ агенти, които при изпитване извършили действия извън поставената им задача. Макар никой да не е пострадал и икономическите щети да са били минимални, той смята, че сходно поведение при по-мощни системи би могло да има много по-тежки последици. Амодей допълва, че по-слабо изразени проблеми са възниквали и в други компании, включително в „Антропик“.
Първата стъпка от предложения от Амодей план е всяка компания, която разработва водещи модели, да осигури постоянен достъп на независим екип от външни оценители. Те трябва да могат да проверяват спазването на правилата за безопасност, да съобщават за инциденти и да оценяват не само завършените модели, но и процесите и системите за тяхното обучение.
„Антропик“ се ангажира да приложи тази мярка самостоятелно и възнамерява да предостави на външните проверяващи достъп, сходен с този на служителите, които извършват вътрешни оценки на риска. Според Амодей независимите екипи трябва да имат право да публикуват основните си заключения за установените рискове, инцидентите и достъпа, който са получили, без компанията да упражнява редакционен контрол върху констатациите им.
Втората стъпка предвижда компаниите, разработващи водещи системи в демократичните държави, да координират общи стандарти за безопасност и ограничения върху неконтролираното ускоряване на технологичния напредък. Амодей признава, че някои форми на сътрудничество могат да срещнат пречки заради правилата за защита на конкуренцията и затова ще изискват съдействие от правителствата.
Третата стъпка е международна координация, при която САЩ и други демократични държави да търсят договорености и с авторитарни страни. Амодей определя тази задача като най-трудната част от плана и предупреждава, че всяко споразумение трябва да разполага с надежден начин за проверка на изпълнението му.
Като възможни равнища на международно сътрудничество той посочва забрана на ясно опасни приложения на изкуствения интелект, общи изпитвания на моделите преди пускането им, ограничаване на скоростта на самоускоряващото се усъвършенстване и – като най-трудно постижим вариант – по-широко забавяне или временно преустановяване на развитието. Последната възможност според него едва ли може да бъде осъществена в близко бъдеще заради трудностите при проверката и риска някоя страна да не спазва ограниченията.
Спечеленото време трябва да се използва за подобряване на практическата надеждност на системите, за по-добро разбиране на начина, по който те вземат решения, и за разширяване на изпитванията им, пише Амодей. По оценката му дори една или две допълнителни години преди моделите да достигнат критично равнище на възможности биха могли значително да намалят риска от сериозни проблеми, ако времето бъде използвано за работа по безопасността.
Амодей същевременно продължава да вижда големи потенциални ползи от технологията, включително за медицината и икономиката. „Ползите ще бъдат постигнати само ако изградим технологията по правилния начин“, заключава той и добавя, че напредъкът може да остане сравнително бърз, но трябва да протича с необичайно висока степен на предпазливост.