Tazabek - На прошлой неделе Anthropic объявила, что ее новейшая модель искусственного интеллекта Claude Mythos Preview не будет выпущена в открытый доступ, после того как компания выяснила, что она способна находить и использовать уязвимости в критически важных программных системах, которые оставались незамеченными десятилетиями. Об этом пишет издание The New York Times.

Вместо этого Anthropic предоставила доступ к Mythos — а также $100 млн в виде кредитов на его использование — более чем 50 крупнейшим организациям мира, включая Amazon, Apple, Microsoft, Google и JPMorgan Chase, в рамках оборонительной инициативы в сфере кибербезопасности под названием Project Glasswing.

Еще до этого объявления общедоступные модели ИИ уже находили уязвимости в широко используемом программном обеспечении. Исследователи Anthropic признали, что другим лабораториям потребуется от шести до 18 месяцев, чтобы создать нечто сопоставимое.

Эти возможности — и связанные с ними угрозы для кибербезопасности — будут распространяться. От стриминговых платформ и онлайн-банкинга до поисковых систем, отвечающих на повседневные вопросы, значительные части интернета могут стать непригодными для использования.

«Если мы не отреагируем осторожно и решительно, то миллионы людей, которые могут больше всего выиграть от прогресса ИИ как инструмента программирования, одновременно окажутся и наиболее уязвимыми перед атаками. Если оставить их один на один с этой угрозой, это может подорвать интернет в том виде, в каком мы его знаем», - говорится в статье.

Возможно, вы уже знакомы с понятием vibe coding — использованием инструментов ИИ для превращения описаний на естественном языке в работающие программы.

Владелица магазина описывает нужную ей систему учета товаров — и ИИ ее создает. Стоматолог описывает портал для пациентов — и ИИ его делает. Миллионы людей, которые никогда не считали себя разработчиками программного обеспечения, — владельцы малого бизнеса, врачи, руководители некоммерческих организаций — впервые создают программы, не имея никакой подготовки.

Но такие приложения часто пишутся без проверки безопасности. Потенциальные уязвимости, которые по мере развития ИИ становится все проще находить, могут позволить злоумышленникам получить доступ к данным клиентов, захватить аккаунты или полностью вывести приложение из строя.

На протяжении десятилетий интернет оставался безопасным — или, по крайней мере, достаточно безопасным — благодаря двум видам дефицита.

Писать программное обеспечение было сложно, поэтому этим занимались немногие, и, как правило, это были обученные и осторожные специалисты.

Искать ошибки в коде тоже было трудно, поэтому самые опасные уязвимости оставались скрытыми, порой десятилетиями. Это была неидеальная система. Но сложность по обе стороны создавала своего рода равновесие, которое сохранялось.

Теперь же, благодаря новым инструментам ИИ, писать код может практически любой. И вскоре злоумышленники смогут использовать те же самые инструменты, чтобы находить слабые места в этом коде. Это равновесие больше не существует.

Большая часть интернета построена на программном обеспечении с открытым исходным кодом. Например, значительная часть видео, которое вы смотрите онлайн, незаметно для пользователя передается через FFmpeg — бесплатную open-source программу, которую поддерживают добровольцы с весьма скромным по корпоративным меркам бюджетом.

OpenBSD — операционная система, на которой работают межсетевые экраны и шлюзы, защищающие чувствительные сети от внешних атак, и которую Anthropic называет «одной из самых защищенных операционных систем в мире», — существует на пожертвования.

В отличие от проприетарного ПО, разрабатываемого крупными компаниями в рамках Project Glasswing, эти проекты существуют потому, что кто-то решил: эта работа важнее зарплаты. Их создают люди, которые отдали годы своей жизни коду, лежащему в основе продуктов, которыми большинство из нас пользуется каждый день, даже не задумываясь об этом.

По словам Anthropic, Mythos обнаружила 27-летнюю уязвимость в OpenBSD и 16-летнюю уязвимость в FFmpeg, скрытую в строке кода, которую, как утверждает Anthropic, другие автоматизированные инструменты безопасности пропускали пять миллионов раз. (Обе организации заявили, что уже устранили выявленные проблемы.)

Не остался в стороне и Firefox — браузер, который разрабатывает моя организация: когда Anthropic тестировала на нем свою предыдущую модель, ей удалось превратить уже известную ошибку в рабочий инструмент атаки лишь дважды из нескольких сотен попыток.

Когда же Anthropic применила Mythos, это удавалось почти каждый раз. Во всех этих проектах и во многих других модель выявила тысячи уязвимостей в коде. Именно такие проблемы позволяют программам-вымогателям выводить из строя больницы. Именно через них кибератаки могут нарушать работу критической инфраструктуры. И именно они дают иностранным разведслужбам возможность компрометировать государственные сети.

Помимо выявления проблем в строках кода, Mythos показала и уязвимость неформального общественного договора, на котором держится интернет. Долгое время считалось само собой разумеющимся, что разработчики будут открыто делиться своей работой, помогать друг другу исправлять ошибки и поддерживать программное обеспечение, от которого зависят все мы, — не ради оплаты, а потому что так устроено сообщество.

Опытный программист, который 20 лет в свободное время исправлял критически важный код, сегодня оказался в том же положении, что и владелица магазина, которая только на прошлой неделе с помощью vibe coding создала свое первое приложение. Оба уязвимы. Ни у одного нет команды по безопасности. И ни у одного сейчас нет доступа к Mythos.

Надо отдать должное Anthropic: компания стала одной из первых крупных ИИ-компаний, которая решила, что в данной ситуации правильнее притормозить. Она заявила о выделении $4 млн организациям, занимающимся безопасностью открытого программного обеспечения. Это больше, чем до сих пор сделал кто-либо еще в этой отрасли.

И все же базовая экономическая модель не изменилась: самая ценная программная инфраструктура в мире по-прежнему поддерживается людьми, работающими бесплатно, в то время как компании, зарабатывающие на ней состояния, никогда не были обязаны платить за ее содержание. Теперь появилась новая мощная технология — и, как мы уже не раз видели в технологической сфере, есть риск, что организации с ресурсами получат к ней доступ первыми и научатся защищать себя, тогда как остальные останутся уязвимыми.

Программист, который отдал 20 лет своей жизни поддержке кода, встроенного в продукты, которыми пользуются миллиарды людей? У него пока нет доступа к Mythos. А должен быть. Организации, отвечающие за поддержку инфраструктуры открытого ПО, знают, кто эти сопровождающие разработчики, знают, как с ними связаться, и готовы помочь. Это короткий список и вполне решаемая задача. С владельцем магазина ситуация иная. Ему не нужен Mythos или столь же мощный инструмент, чтобы защититься от кибератаки, — ему нужна уверенность в том, что инструменты, которыми он пользовался, изначально созданы так, чтобы его защищать.

Поэтому нужно изменить подход по умолчанию. Каждая компания, использующая открытый код в своих продуктах, а это большая часть технологической индустрии, должна инвестировать в тех ключевых людей, которые этот код поддерживают. Это означает не только финансирование, но и то, что ИИ-компании должны направлять инженерное время, экспертизу в области безопасности и сотрудников в проекты, от которых мы все зависим. ИИ-компании, создающие инструменты вроде Mythos, не только Anthropic, должны передать их в руки этих специалистов. А все мы, кто выигрывает от существования инфраструктуры с открытым исходным кодом, должны относиться к ней так, как и следовало всегда: как к критически важной инфраструктуре — не менее значимой, чем дороги, мосты или линии электропередачи.

И для миллионов новых создателей, которые впервые в жизни пишут софт, мы должны сделать безопасную разработку простой и естественной. Нужно встроить безопасность в те инструменты, которыми они уже пользуются. Нужно сделать так, чтобы ИИ, который пишет код, одновременно и защищал этот код. Не как дополнительную опцию и не как премиальную функцию, а как настройку по умолчанию. Период хрупкого равновесия закончился. Уязвимости стали видимыми. Создатели программного обеспечения повсюду. Остался только один вопрос: защитим ли мы всех — или только тех, кто может позволить себе защиту.