„БайтДенс“ създава екип за безопасност на изкуствения интелект и започва кампания за международно набиране на служители

Изследователското звено за изкуствен интелект „Сийд“ (Seed) на китайската технологична компания „БайтДенс“ (ByteDance) създаде специализиран екип за безопасност и съгласуване на ИИ с човешките цели и започна международна кампания за наемане на 10 изследователи, предаде Ройтерс. Компанията заяви, че ще инвестира дългосрочно в безопасността на все по-мощните си модели.
Инициативата идва на фона на засилено внимание в Китай и САЩ към рисковете от агентите с изкуствен интелект, особено при предоставянето им на автономен достъп до интернет.
Съгласуването на ИИ с човешките цели обхваща усилията системите да действат в съответствие с човешките намерения и изискванията за безопасност, включително при изпълнение на сложни задачи с множество последователни стъпки.
Съобщението е рядък случай, в който голям китайски разработчик публично обявява създаването на специализиран екип за безопасност на най-модерните модели и подготовка за възникващи рискове.
Китайското държавно издание „Пейпър“ съобщи във вторник, че „Сийд“ е първата китайска лаборатория за разработване на такива модели, която създава самостоятелно звено за безопасност и съгласуване с човешките цели.
В обява за набиране на служители, публикувана в сряда в официалния му профил в социалната мрежа „УиЧат“ (WeChat), „Сийд“ посочва, че с разширяването на възможностите на моделите безопасността се превръща в основно условие за широкото им внедряване.
Новият екип ще разполага с изчислителни мощности и изследователски ресурси, съпоставими с тези на екипите, разработващи най-модерните модели на компанията. Работните места са в Пекин, Шанхай и Сан Хосе, щата Калифорния.
Изследванията ще обхващат обучение на моделите за безопасно поведение на различните етапи от разработването им, автоматизирано тестване за уязвимости и инструменти за наблюдение и обяснение на поведението им. Предвидени са също среди за изпитване на агенти с ИИ и подготовка за справяне с нововъзникващи рискове.
„Сийд“ ще търси възможности за независимо тестване и сътрудничество с университети и научноизследователски институции. Резултатите от работата по безопасността ще се прилагат при обучението, оценяването и внедряването на моделите.
Инициативата се развива на фона на дискусии между САЩ и Китай за ограничаване на рисковете от ИИ и създаване на канали за комуникация при сериозни инциденти, докато двете страни се конкурират за технологично лидерство.