Anthropic предупредила о рисках быстрого развития искусственного интеллекта

Международная компания Anthropic призвала к осторожности при разработке передовых систем искусственного интеллекта (ИИ) и подчеркнула возможные угрозы для контроля человека над технологиями. Об этом говорится в исследовании Anthropic Institute.

В документе отмечается, что современные модели ИИ ускоряют создание новых систем, способных самостоятельно проектировать и улучшать следующие поколения без прямого участия людей. По данным компании, более 80% программного кода для продуктов Anthropic за текущий год было создано моделями Claude, тогда как до внедрения Claude Code в начале 2025 года этот показатель был минимальным. Использование ИИ увеличило объем выпускаемого кода инженерами в восемь раз по сравнению с 2021–2024 годами.

Anthropic описала три сценария развития отрасли: замедление прогресса из-за технических ограничений; активную автоматизацию при сохранении стратегического контроля за людьми; появление систем, способных полностью самостоятельно создавать новые версии ИИ.

Компания подчеркнула, что даже небольшие отклонения в поведении моделей могут накапливаться и становиться сложными для обнаружения и контроля в будущих поколениях. В связи с этим исследователи призвали к более широкому обсуждению механизмов, которые позволили бы замедлить или временно приостановить развитие передовых ИИ-технологий, если безопасность и общественный контроль не успевают за быстрым прогрессом.

Революция на столе: новый чип Nvidia разрушит компьютерный рынок

Крупнейшая корпорация мира представила «убийцу» конкурентов

Японская газета Nikkei 19 апреля сообщила, что сильная зависимость стран от американских инструментов искусственного интеллекта может привести к новой форме колонизации. Авторы материала добавили, что впервые такие опасения появились у политиков на закрытой сессии Мюнхенской конференции по безопасности, прошедшей в феврале этого года.