Глава Anthropic предложил замедлить разработку ИИ и усилить внешнюю проверку
Глава Anthropic Дарио Амодеи предложил замедлить развитие ИИ и выработать подход к более осторожному темпу выпуска передовых моделей. Компания планирует предоставить внешним оценщикам, включая METR, доступ к моделям для проверки соблюдения заявленных мер безопасности.
Амодеи изложил предложение в эссе и назвал его планом из трёх шагов по «снижению темпа развития передовых моделей». Формулировка pace the frontier, по сути, означает отказ от бесконтрольного ускорения разработки.
Один из элементов плана — проверка моделей независимыми организациями. Anthropic хочет дать METR и другим сторонним оценщикам доступ к своим системам, чтобы они могли оценить соблюдение компанией практик и обязательств в области безопасности.
Это предложение касается не отдельного релиза или функции, а общего подхода к развитию ИИ. В исходном материале не говорится о конкретных изменениях в доступности моделей Anthropic или в условиях их использования.
Для вайбкодера прямых изменений пока не заявлено: это не новый инструмент и не обновление API. Практический сигнал в другом — безопасность передовых моделей хотят проверять не только внутри компании, но и с помощью внешних оценщиков.
Черновик этой заметки подготовила нейросеть по ленте первоисточника. Мы помечаем такие материалы честно — факты и цифры сверяйте по ссылке на источник выше. Как мы работаем с данными.