Генеральний директор Anthropic Даріо Амоді: ще 6-12 місяців, і китайські відкриті моделі штучного інтелекту зможуть наздогнати Mythos

Генеральний директор Anthropic Dario Amodei у інтерв’ю для «Фінансової газети» «Lunch with the FT» відкрив зворотній відлік, за яким відкриті моделі та китайські розробники зможуть за 6 місяців, а найповільніше за 12 місяців, скопіювати мережеву безпеку Mythos. Mythos — це модель з найвищим потенціалом у Anthropic, яка ще не була публічно випущена.
(Передісторія: Mythos від Anthropic настільки сильний, що викликав термінове засідання: Бенсент, Бейлор зібрали Citigroup, Goldman Sachs, Bank of America, JPMorgan Chase, щоб зосередитися на фінансових ризиках)
(Додатковий фон: великий короткий продавець Майкл Бері заявив: Palantir — це лише компанія з низькою маржею SaaS-аутсорсингу! Anthropic вже її поглинає)

6 до 12 місяців, Dario Amodei у «Фінансовій газеті» дав дуже амбітний зворотній відлік.

Він сказав, що відкриті моделі та китайські розробники зможуть за цей час скопіювати мережеву безпеку найсильнішої моделі Anthropic Mythos, ця заява є своєрідним сигналом бойової готовності.

Що може робити Mythos? Anthropic стверджує, що раніше вона виявила тисячі нульових днів у «кожній основній операційній системі та браузері», зокрема виявила в OpenBSD усього один унікальний вразливий недолік, який існував 27 років і ніколи раніше не був знайдений.

За останні два тижні Білий дім просував інтеграцію Mythos у федеральні агентства, керівник апарату Susie Wiles 17 квітня безпосередньо зустрілася з Amodei; одночасно п’ять великих банків — Citigroup, Goldman Sachs, Bank of America, Morgan Stanley, JPMorgan Chase — були терміново зібрані для оцінки ризиків фінансової інфраструктури.

Стратегія Amodei полягає в тому, що якщо поширення можливостей моделі неможливо зупинити, можна розставити пріоритети. Перед випуском для громадськості спершу довести оборонні можливості до межі.

Застереження Dario Amodei

Керівник внутрішньої команди безпеки Anthropic Logan Graham раніше заявив, що інші компанії зможуть за кілька місяців скопіювати рівень Mythos, а відкриття коду в Китаї займе від 1 до 1,5 року.

Dario Amodei оцінює цей зворотній відлік у 6-12 місяців як досить оптимістичний середній варіант. Він не вважає, що можливості високопродуктивних моделей можна назавжди закрити, і його цікавить, скільки вразливостей у вже існуючих системах можна буде виправити до настання цього часу.

Зараз Dario Amodei вважає Mythos ядерною зброєю: усі мають здатність її створити, але потрібно суворо контролювати, хто її отримає.