Репортаж от Wedoany，Брайан Сильверторн, руководитель лаборатории автономных исследований AGI (AGI Autonomy research lab) в Amazon, недавно заявил, что подходы к оценке надежности AI-агентов смещаются от статических показателей производительности к фокусу на согласованности, устойчивости, предсказуемости и безопасности. Сильверторн отметил, что оценки EVAL, на которые опираются отраслевые стандарты, предоставляют лишь статический срез производительности и не могут в полной мере отразить предсказуемость AI-систем в различных сценариях, что становится основной проблемой для компаний при предоставлении AI-агентам доступа к системам.
Сильверторн дал интервью перед предстоящей конференцией VB Transform 2026, которая пройдет 14-15 июля в Менло-Парке. Он сообщил, что стратегия Amazon заключается не в предположении, что сама модель безопасна и надежна, а в акценте на развязывание системной архитектуры. Конкретные меры включают внедрение песочниц, где AI-агенты могут предлагать изменения в контролируемых рамках, которые затем проверяются человеком перед выполнением. Этот подход направлен на преодоление разрыва доверия в корпоративных приложениях за счет приоритета верифицируемых взаимодействий, особенно в таких высокорисковых и чувствительных областях, как финансы.
Согласно исследованию Q2 Pulse Research, опубликованному VentureBeat, среди более чем 100 старших технических руководителей и покупателей только 4% готовы полагаться исключительно на защитные ограждения модели для обеспечения безопасности AI. Среди наиболее тревожных проблем респондентов 40% опасаются несанкционированного доступа к инструментам или данным, а 27% упомянули риски манипуляции или инъекции подсказок. Сильверторн планирует поделиться на конференции VB Transform 2026 деталями построения доверенного Agentic AI в Amazon и рассказать о переходе от инкапсуляции одного агента к многокомпонентной архитектуре, способной к самокоррекции в процессе выполнения.
На конференции также запланированы другие выступления, посвященные Agentic-операциям и оценке, например, Манаси Джоши, директор по системному интеллекту и машинному обучению Waymo, поделится опытом компании по созданию безопасного и эффективного AI в физическом мире.
Данный материал скомпилирован платформой Wedoany. При цитировании материалов, созданных с помощью искусственного интеллекта (ИИ), необходимо обязательно указывать источник — «Wedoany». В случае выявления нарушения прав или иных проблем просим своевременно информировать нас. Сайт оперативно внесёт изменения или удалит материал.Электронная почта: news@wedoany.com
