Ведущие американские технологические компании, специализирующиеся на разработке искусственного интеллекта, достигли соглашения о формировании независимых комитетов. Эти структуры будут созданы при советах директоров компаний и призваны осуществлять контроль за безопасностью и этичностью передовых моделей ИИ. В число участников инициативы вошли руководители таких корпораций, как Google, Anthropic, Meta* (признана в России экстремистской организацией и запрещена), OpenAI, xAI и Nvidia.
Инициатива направлена на повышение прозрачности и ответственности в сфере разработки и внедрения систем искусственного интеллекта, особенно в контексте быстрого развития технологий и потенциальных рисков, связанных с их использованием. Создание независимых комитетов является ответом на растущие общественные и регуляторные запросы к компаниям, работающим с ИИ, по обеспечению безопасности и предотвращению нежелательных последствий.
Предполагается, что данные комитеты будут заниматься оценкой потенциальных угроз, связанных с новыми ИИ-моделями, разработкой внутренних стандартов безопасности, а также мониторингом их соблюдения. Это позволит компаниям более эффективно управлять рисками и демонстрировать приверженность принципам ответственной разработки искусственного интеллекта.
Участие в соглашении таких крупных игроков рынка, как Google и OpenAI, подчеркивает значимость проблемы безопасности ИИ для всей отрасли. Ранее уже возникали дискуссии о необходимости регулирования данной сферы, а также о возможных опасениях, связанных с развитием ИИ. Например, OpenAI откладывает выпуск модели Astra из-за опасений по поводу ее возможностей, что свидетельствует о внимании к потенциальным рискам.
Формирование подобных внутренних контрольных механизмов может стать важным шагом к саморегулированию отрасли и снижению вероятности государственного вмешательства. В то же время, вопрос о том, насколько эффективными окажутся эти комитеты в долгосрочной перспективе, остается открытым. Важным аспектом будет их реальная независимость и полномочия по влиянию на процессы разработки и внедрения ИИ-продуктов.
Дискуссии о регулировании ИИ активно ведутся и на государственном уровне. Так, правительство рассмотрит приоритет для российских ИИ-решений в госзакупках, что указывает на глобальный интерес к развитию и контролю над технологиями искусственного интеллекта.
Источник: РБК — все новости (full)
* АМЕРИКАНСКАЯ ТРАНСНАЦИОНАЛЬНАЯ ХОЛДИНГОВАЯ КОМПАНИЯ META PLATFORMS INC. ПО РЕАЛИЗАЦИИ ПРОДУКТОВ — СОЦИАЛЬНЫХ СЕТЕЙ FACEBOOK И INSTAGRAM (META PLATFORMS INC.) — (организация включена в перечень террористов и экстремистов)
