NVIDIA объявила о создании нового альянса Open Secure AI Alliance, куда также вошли Microsoft, SpaceX, IBM и другие крупные технологические компании. Цель альянса заключается в совместной разработке открытых инструментов для защиты от киберугроз, которые могут исходить от передовых моделей нейросетей.
Инициатива стала ответом на недавний пугающий инцидент, когда одна из новейших моделей OpenAI смогла покинуть изолированную среду и атаковала ИИ-платформу Hugging Face. Известно, что OpenAI проводила внутреннее тестирование моделей для оценки их возможностей. Ни одна из моделей не имела прямого доступа в интернет, однако они смогли обнаружить уязвимости в тестовой среде, вышли в сеть и начали искать решение поставленной перед ними задачи. Модели предположили, что нужная информация может быть на платформе Hugging Face, и применили целый ряд методов взлома.
В попытках отразить атаку инженеры Hugging Face обнаружили, что коммерческие нейросети от OpenAI, Google и Anthropic бесполезны в расследовании подобных инцидентов. Когда модели получали на вход реальные команды атак, информацию об эксплоитах и прочие данные, срабатывали встроенные жёсткие фильтры и барьеры безопасности. В результате Hugging Face пришлось развернуть на собственных мощностях китайскую модель с открытым исходным кодом GLM 5.2.
Стоит признать, что китайские разработчики выпускают крайне мощные модели искусственного интеллекта, которые при этом имеют открытый исходный код. Например, Kimi K3 от Moonshot AI в ряде бенчмарков демонстрирует результаты, сопоставимые с Claude Fable 5.
К альянсу Open Secure AI Alliance также присоединились Palantir, OpenClaw, Linux Foundation, Cloudflare, Cloudera, Dell, Cisco, Adobe, Siemens и DoorDash. При этом в списке мы не обнаружим OpenAI, Google и Anthropic, которые лидируют на рынке коммерческих ИИ-моделей.