Команда из Университета Карнеги-Меллона соединила четыре ранее несовместимые лабораторные системы и за восемь часов выполнила автономное построение кривой последовательного разведения — задача, которая, по словам исследователей, обычно требует нескольких недель интеграции с поставщиками. Результат лег в основу новой исследовательской версии стандарта Model Hardware Standard (MHS), разработанной компанией Anthropic, — спецификации, предназначенной для того, чтобы агенты искусственного интеллекта могли обнаруживать, отслеживать и управлять программируемым физическим оборудованием.
В четверг компания Anthropic представила предварительную версию избранным научным лабораториям и передовым производителям. Компания заявляет, что платформа может параллельно координировать работу микроскопов, дозаторов жидкостей, роботизированных манипуляторов и других инструментов, расширяя возможности ИИ-агентов из программного обеспечения в экспериментальные и производственные системы. Независимое агентство Reuters подтвердило запуск и начало работы с ограниченным числом партнеров.
Это объявление имеет важное значение, поскольку интеграция оборудования остается одним из наименее привлекательных и наиболее устойчивых препятствий на пути автоматизации. Кроме того, оно носит предварительный характер. Примеры, опубликованные совместно с MHS, представляют собой тематические исследования партнеров, а не независимые аудиты или экспертные оценки, и в некоторых из них используются демонстрации, а не производственные рабочие нагрузки. Они показывают, что общий интерфейс может сократить объем инженерной работы; они не доказывают, что универсальный ИИ может безопасно управлять произвольными лабораториями или заводами.
Общий язык для несовместимых машин
MHS начиналась как сотрудничество между компанией Anthropic и исследовательским кампусом Janelia Института медицинских исследований Говарда Хьюза. Ее основная идея напоминает драйвер устройства — программный слой, который обеспечивает связь между компьютером и машиной. Вместо того чтобы требовать от агента изучения интерфейса каждого производителя, драйвер MHS предоставляет простые примитивы, такие как считывание температуры или запись новой настройки, а также стандартизированное описание того, что устройство может измерять и изменять.
Эти описания включают в себя теги на естественном языке для фактов, которые программное обеспечение может не раскрывать, например, вес роботизированной руки или установленные пределы безопасности прибора. Драйвер генерирует справочный файл, который делает устройство доступным в сети. В технической предварительной версии говорится, что агент может управлять оборудованием через протокол контекста модели, командную строку или интерфейс прикладного программирования, а более длинные процедуры могут быть скомпилированы в детерминированный код, а не обрабатываться пошагово.
Это разделение имеет значение. Языковые модели полезны для интерпретации экспериментальной цели и выбора инструментов, но повторяемое движение машины не должно зависеть от нового вероятностного ответа каждую миллисекунду. MHS позволяет агенту планировать, контролировать и корректировать рабочий процесс, в то время как приборы выполняют ограниченные команды. Обещанное преимущество — повторное использование: как только появится надежный драйвер, другой лаборатории не придется заново создавать ту же интеграцию с нуля.
Первые испытания выявили проблемы со скоростью и слепыми зонами
Демонстрация в Университете Карнеги-Меллона объединила дозатор жидкостей, устройство для считывания планшетов, роботизированную руку и камеры наблюдения, распределенные между тремя компьютерами. Одна машина принимала файлы заданий, другая использовала устаревший интерфейс сценариев Windows, а устройство для считывания планшетов предлагало только графический экран. Компания MHS представляла свои состояния и процедуры через единый манифест. В одном из устройств использовался колориметрический краситель, а не лекарственное средство, для подготовки и измерения кривой доза-эффект примерно в три раза быстрее, чем при предыдущем рабочем процессе.
Исследователи намеренно ввели шесть факторов риска, включая отсутствующую или повернутую пластину, отключенную камеру и активную аварийную остановку. Система заблокировала все шесть факторов до начала движения. В ходе эксперимента она отклонила исходную кривую со значением R-квадрат ниже 0,9, снизила максимальную концентрацию с 200 до 100 микрограммов на миллилитр и получила вторую кривую с коэффициентом аппроксимации выше 0,98 без участия человека. Это обнадеживающие результаты, но команда прямо указывает, что проверка с использованием реальных кандидатов в лекарственные препараты является задачей на будущее.
В ходе экспериментальной проверки, проведенной компанией Genentech, был выявлен другой предел возможностей. Клод скоординировал работу дозатора жидкости, роботизированной руки и планшетного считывателя для анализа белка, а затем оптимизировал скорость дозирования, сравнивая ее с результатами экспертной оценки. Однако первые стандартные настройки привели к образованию пузырьков в вязком образце, и при первой попытке повторить процедуру в той же лунке, что усугубило физическую проблему, исследователи Genentech были вынуждены объяснить причину и направить систему в чистую лунку, обеспечив более бережное перемешивание. Их пример служит полезным предостережением: владение программным обеспечением не означает физическую интуицию.
От скриптов к лабораториям с замкнутым циклом разработки
Более масштабная цель — создание самоуправляемой лаборатории, в которой программное обеспечение выбирает эксперимент, оборудование его выполняет, датчики возвращают результаты, а система выбирает следующую итерацию. В определении NIST это описывается как замкнутый контур обратной связи, предназначенный для максимизации информации, получаемой из каждого цикла, с автоматизированным созданием, обработкой и характеризацией образцов, требующих минимального участия человека. MHS не обеспечивает научную цель и не гарантирует достоверность измерений, но может стать связующим звеном между алгоритмом и лабораторным стендом.
В Вашингтонском университете аспирант-исследователь подключил шесть приборов менее чем за неделю. Демонстрации включали наблюдение за кривыми количественной ПЦР в реальном времени, запрос подтверждения перед остановкой цикла и координацию работы роботизированной руки с устройством для дозирования жидкости, чтобы планшеты переходили из рук в руки только после того, как каждое устройство сообщало о безопасном состоянии. Исследователь отметил, что непрерывный мониторинг потребляет вычислительные ресурсы и что более сложные протоколы потребуют существенной оптимизации.
Исследователи из Janelia использовали этот стандарт для объединения программ семи поставщиков в нейробиологической установке, сократив добавление новой камеры из многодневного проекта до нескольких минут. Компания QuEra применила MHS для восстановления подсистемы управления лазером квантового компьютера. Компания заявляет, что команда из четырех человек ранее потратила две-три недели на создание вручную написанного скрипта восстановления; в отчете о пилотном проекте также говорится, что агент иногда приостанавливался на ночь для подтверждения и не мог диагностировать физические сбои оборудования.
Эти результаты соответствуют более широкой исследовательской тенденции, но также и её ограничениям. В исследовании, опубликованном в журнале Nature , отмечается, что многие автономные экспериментальные системы остаются специализированными, узкоспециализированными и привязанными к ограниченному набору инструментов. Переход от впечатляющих демонстраций к адаптируемым лабораториям требует инфраструктуры, которая может безопасно тестировать программные решения и физические действия. Общий аппаратный словарь обеспечивает совместимость; он не устраняет необходимости в доменных моделях, калиброванных приборах или квалифицированных учёных.
Физический доступ повышает стоимость ошибок
Сотрудник, неправильно оформивший документ, создает неудобства. Сотрудник, перемещающий робота, меняющий лазер или отбирающий биологический образец, может повредить оборудование, испортить доказательства или причинить кому-либо травму. Таким образом, обоснование безопасности имеет как минимум три уровня: защищенный доступ к системе управления, детерминированные ограничения, обеспечиваемые драйверами и процедурами, и человеческий контроль над действиями, последствия которых неопределенны или необратимы.
MHS может использовать протокол контекстной модели (Model Context Protocol), который создает собственную уязвимость при выходе удаленных инструментов за пределы доверительных отношений. Текущие рекомендации по безопасности требуют от серверов проверки входящих запросов и отклонения токенов, не выданных для данного сервера; они также выявляют риски, включая подделку запросов на стороне сервера и кражу дескрипторов состояния. Лабораториям дополнительно потребуется сетевая изоляция, учетные данные с минимальными привилегиями, подписанные драйверы, неизменяемые журналы аудита и четкое правило, согласно которому физическая аварийная остановка имеет приоритет над командами агента.
Для подтверждения заявленных характеристик также необходимы стандартизированные тесты. Программа NIST по робототехнике делает акцент на метриках и протоколах для оценки восприятия, ловкости, безопасности, координации и совместимости. Упражнение MHS по созданию искусственной опасности является подходящим доказательством, но шесть заблокированных условий в одной контролируемой установке не являются сертификацией безопасности. Оценки должны охватывать неисправные датчики, вредоносные входные данные, ошибки синхронизации, дрейф калибровки и комбинации отказов, которые группа разработчиков не предусмотрела.
Внедрение зависит от факторов и имеющихся данных
Компания Anthropic заявляет, что MHS не зависит от конкретной модели и в конечном итоге станет проектом с открытым исходным кодом, но дата его общедоступности пока не объявлена. На данный момент доступ ограничен, пока первые партнеры разрабатывают оценки безопасности и методы эксплуатации. Это делает предварительную версию ближе к предложению, подкрепленному прототипами, чем к отраслевому стандарту. Стандарт становится надежным только тогда, когда конкурирующие поставщики моделей, производители оборудования, лаборатории и производители могут внедрить его независимо.
Решающим фактором может оказаться экосистема драйверов, а не сам агент. В лабораториях используются устаревшие приборы, заблокированное программное обеспечение от сторонних поставщиков и устройства без современного интерфейса программирования. Для их поддержки потребуется документация, техническое обслуживание и тестирование на соответствие стандартам. Производители оборудования должны решить, публиковать ли собственные драйверы MHS, а клиенты должны определить, кто несет ответственность, если драйвер неправильно описывает ограничение или агент неоднозначно интерпретирует состояние.
Тем не менее, MHS переосмысливает важную проблему. Вопрос уже не только в том, может ли модель ИИ составлять планы экспериментов, но и в том, могут ли разные машины выявлять надежные, ограниченные возможности, которые программное обеспечение может комбинировать. Результат, полученный в Карнеги-Меллоне за восемь часов, предполагает, что этот слой может значительно сократить время интеграции. Пузыри в Genentech и задержки с утверждением в QuEra показывают, почему скорость не может заменить физическое понимание, проверку или ответственный человеческий контроль.