Anthropic призвал замедлить развитие искусственного интеллекта
08.06.2026
Источник:
Banker.kz
На фоне стремительного роста инвестиций в искусственный интеллект Anthropic, один из ведущих игроков отрасли, призвал разработчиков снизить темпы создания новых моделей.
Сооснователь компании Джек Кларк считает, что ИИ-системы приближаются к этапу рекурсивного саморазвития. Речь идет о ситуации, при которой модели смогут участвовать в создании новых поколений искусственного интеллекта. Такой переход, по его мнению, способен породить риски глобального масштаба.
«Если системы станут способны сами производить потомков, их безопасность, мониторинг и управление поведением станут намного важнее, чем сейчас», — говорится в письме.
Компания, разработавшая Claude, выделяет три этапа эволюции больших языковых моделей, которые отрасль прошла с 2023 года. Сначала ИИ использовался преимущественно как чат-бот, затем превратился в помощника программиста, а после этого — в автономного агента, способного выполнять сложные задачи с минимальным участием человека.
Следующей ступенью может стать замкнутый цикл разработки: появление агентов, которые смогут самостоятельно создавать и обучать новые модели. По данным Anthropic, уже сейчас около 80% программного кода Claude генерируется самим искусственным интеллектом. Доля может приблизиться к 100% в течение ближайших одного-двух лет.
При этом в компании признают, что добиться добровольного замедления гонки будет непросто. Обучение новой модели гораздо легче скрыть, чем строительство ракетной шахты. Любой участник рынка, который откажется соблюдать паузу, сможет получить конкурентное преимущество.
Тем не менее отрасли необходимы правила и механизмы сдерживания, считает Кларк. По его словам, сейчас ситуация выглядит так, будто у разработчиков ИИ есть педаль газа, но отсутствует педаль тормоза.
Призыв прозвучал в период, когда Anthropic готовится к IPO с потенциальной оценкой около $1 трлн. Компания последовательно позиционирует себя как одного из наиболее ответственных разработчиков искусственного интеллекта.
Ранее Anthropic предупреждала, что физические ИИ-агенты могут существенно изменить рынок труда, а автономные военные системы на базе искусственного интеллекта способны создать дополнительные угрозы безопасности.
Сооснователь компании Джек Кларк считает, что ИИ-системы приближаются к этапу рекурсивного саморазвития. Речь идет о ситуации, при которой модели смогут участвовать в создании новых поколений искусственного интеллекта. Такой переход, по его мнению, способен породить риски глобального масштаба.
«Если системы станут способны сами производить потомков, их безопасность, мониторинг и управление поведением станут намного важнее, чем сейчас», — говорится в письме.
Компания, разработавшая Claude, выделяет три этапа эволюции больших языковых моделей, которые отрасль прошла с 2023 года. Сначала ИИ использовался преимущественно как чат-бот, затем превратился в помощника программиста, а после этого — в автономного агента, способного выполнять сложные задачи с минимальным участием человека.
Следующей ступенью может стать замкнутый цикл разработки: появление агентов, которые смогут самостоятельно создавать и обучать новые модели. По данным Anthropic, уже сейчас около 80% программного кода Claude генерируется самим искусственным интеллектом. Доля может приблизиться к 100% в течение ближайших одного-двух лет.
При этом в компании признают, что добиться добровольного замедления гонки будет непросто. Обучение новой модели гораздо легче скрыть, чем строительство ракетной шахты. Любой участник рынка, который откажется соблюдать паузу, сможет получить конкурентное преимущество.
Тем не менее отрасли необходимы правила и механизмы сдерживания, считает Кларк. По его словам, сейчас ситуация выглядит так, будто у разработчиков ИИ есть педаль газа, но отсутствует педаль тормоза.
Призыв прозвучал в период, когда Anthropic готовится к IPO с потенциальной оценкой около $1 трлн. Компания последовательно позиционирует себя как одного из наиболее ответственных разработчиков искусственного интеллекта.
Ранее Anthropic предупреждала, что физические ИИ-агенты могут существенно изменить рынок труда, а автономные военные системы на базе искусственного интеллекта способны создать дополнительные угрозы безопасности.