CEO Anthropic призывает к обязательному тестированию безопасности нейросетей

Дарио Амодеи, CEO компании Anthropic, обратился к разработчикам ИИ с призывом внедрить обязательные испытания на безопасность нейросетей перед их публичным запуском. Как сообщает Bloomberg, он считает, что такая мера крайне необходима для обеспечения надежности технологий.

«Я считаю, что обязательное тестирование является насущной необходимостью, но важно подходить к этому с осторожностью», — отметил Амодеи.

По мнению главы быстрого развивающегося ИИ-стартапа, хотя крупные компании согласились следовать ряду добровольных норм безопасности, существующие стандарты не являются достаточно строгими.

«На данный момент нет механизмов, позволяющих проверить соблюдение этих правил. Компании лишь заявили о своем намерении следовать им», — акцентировал он.

Кроме того, Амодеи добавил, что стартапы начали приспосабливаться к определенным стандартам и требованиям общественности, но этого в конечном итоге может быть недостаточно для обеспечения реальной безопасности. Он также подчеркнул, что требования к тестированию должны оставаться «гибкими», чтобы идти в ногу с быстроменяющимися технологиями.

Согласно последним новостям, в ноябре Anthropic предложила свои ИИ-технологии разведывательным и оборонным агентствам США — аналогичный шаг недавно предприняла и компания Meta.

Напоминаем, что в этом же месяце Дарио Амодеи заявил о предполагаемом достижении искусственным интеллектом человеческого уровня развития к 2026 году.