Anthropic готовит нормы для AI-агентов, которые будут вести переговоры и торговаться
Компания Anthropic, создатель языковой модели Claude, начала консультации с юридическими фирмами для разработки норм ведения переговоров с помощью AI-агентов. Такие агенты смогут самостоятельно торговаться о ценах, урегулировать жалобы или улучшать условия сделок, но без четких правил их действия могут быть несправедливыми или даже незаконными.
Что произошло
Anthropic привлекла юридических консультантов, чтобы определить «справедливые нормы переговоров» для AI-агентов. Агенты — это программы, которые действуют от имени пользователя: например, могут зайти на сайт интернет-магазина и предложить свою цену за товар или связаться с техподдержкой и добиться компенсации. Чтобы такие действия не нарушали законы и не ущемляли права других сторон, нужны заранее оговоренные правила. Сейчас Anthropic находится на стадии обсуждения этих норм с экспертами в области права.
Зачем нужны нормы для AI-агентов
AI-агенты, способные вести переговоры, — это следующий шаг в развитии помощников. Если сегодня пользователь просит нейросеть просто найти лучшую цену, то завтра он сможет поручить ей заключить сделку. Но без правового фундамента такой агент может случайно нарушить антимонопольное законодательство, проявить дискриминацию или просто ввести в заблуждение продавца. Поэтому Anthropic ищет баланс: дать агенту достаточно свободы для эффективного торга, но ограничить его рамками честной игры.
Почему это важно
Этот шаг сигнализирует, что AI-агенты становятся не только технической, но и юридической реальностью. Пока нормы только разрабатываются, но их появление может стать прецедентом для всей индустрии. Если Anthropic удастся выработать универсальные правила, они могут лечь в основу будущих стандартов для коммерческих AI-агентов. В редакционном анализе отметим: это также снижает риски для бизнеса, который решит внедрить таких агентов, — компаниям не придётся гадать, какие переговорные тактики законны.
Что это даёт пользователю
На практике пользователь в будущем сможет:
- делегировать AI-агенту переговоры о цене на подписку, связь или страховку;
- поручать агенту урегулирование спорных платежей или возврат товара;
- использовать агента для автоматизации переговоров с несколькими поставщиками одновременно, чтобы выбрать лучшие условия.
Всё это возможно только при условии, что агент действует в рамках согласованных норм — именно их сейчас прорабатывает Anthropic.
Что пока неизвестно
Пока не раскрыто, какие именно юридические фирмы привлечены к консультациям, а также сроки завершения разработки норм. Нет деталей о том, как будут проверяться нормы на практике и появятся ли они сначала в Claude или в виде отдельного продукта. Неизвестно и то, планирует ли Anthropic публиковать эти нормы в открытом доступе или сделать их внутренним стандартом.