← Все посты

Эссе · Автор: Andrew Maryasov, основатель Grow2.ai ·

Агент ошибся — кто отвечает по закону

Инфографика: Агент ошибся — кто отвечает по закону

Обязанности Европейского союза в отношении AI-систем высокого риска должны были заработать 2 августа 2026 года. За неделю до этой даты вступил в силу Регламент (ЕС) 2026/1744 и перенёс их на 2 декабря 2027-го.

Это не календарная мелочь. Именно эта глава AI Act описывает, что обязан делать тот, кто внедрил систему у себя: надзирать за ней, хранить журналы, реагировать на сбои. То есть ровно ту часть, которая называет конкретного человека рядом с конкретным агентом, отодвинули на шестнадцать месяцев, а агенты в компаниях работают уже сейчас.

Вопрос «кто отвечает, если агент ошибся» от этого никуда не делся. На него просто больше нельзя ответить статьёй регламента, и он вернулся туда, откуда пришёл: в ваш договор и ваши логи.

Машина не субъект права — это решили шесть лет назад

Соблазн думать, что ответственность за автономное решение где-то растворяется, возникает каждый раз, когда систему называют «автономной». Юридически она не растворяется нигде: машина не может быть её адресатом, поэтому ответственность остаётся за людьми и компаниями. Иск подают к лицу — физическому или юридическому. Агент — ни то, ни другое.

Европарламент сказал это прямо ещё в 2020 году, в резолюции о режиме гражданской ответственности за искусственный интеллект:

Notes that all physical or virtual activities, devices or processes that are driven by AI-systems may technically be the direct or indirect cause of harm or damage, yet are nearly always the result of someone building, deploying or interfering with the systems; notes in this respect that it is not necessary to give legal personality to AI-systems. — Резолюция Европейского парламента от 20 октября 2020 года, 2020/2014(INL), пункт 7

Ключевое там — не отрицание правосубъектности, а то, что стоит перед ним: вред от AI-системы «почти всегда — результат того, что кто-то её построил, внедрил или вмешался в неё». Три глагола — три разных человека. Вопрос не в том, отвечает ли кто-то, а в том, кто именно из этих троих.

Философская дискуссия о правах машин при этом вполне жива. В выпуске Import AI 470 от 24 августа 2026 года Джек Кларк пересказывает пространный текст за авторством Taylor Belrose о том, почему давать AI-системам права — плохая идея; аргумент там строится на невозможности сознания, а не на законе. Сам Кларк добавляет, что чувствует себя «глубоко растерянным» в вопросах сознания и прав AI. Стоит различать эти два разговора: заслуживает ли машина прав — вопрос открытый, а вот несёт ли она ответственность — закрытый, и закрыт он не в её пользу.

«Так решил агент» — не возражение в споре, потому что такого ответчика не существует.

Правило, которое должно было назвать виновного, отодвинули на шестнадцать месяцев

Регламент (ЕС) 2026/1744 от 8 июля 2026 года — тот самый Digital Omnibus on AI — опубликован в Официальном журнале ЕС 24 июля и действует с 27 июля 2026 года. Он изменил статью 113 AI Act и установил новые даты применения:

Что

Было

Стало

Самостоятельные системы высокого риска (статья 6(2), Приложение III)

2 августа 2026

2 декабря 2027

Системы высокого риска, встроенные в регулируемые продукты (статья 6(1), Приложение I)

2 августа 2027

2 августа 2028

Обязанности по прозрачности (статья 50)

2 августа 2026

без изменений

Причину законодатель назвал в преамбуле откровенно: не готовы гармонизированные стандарты и общие спецификации, не созданы национальные компетентные органы. Регулятор отодвинул дату, потому что не успел сам.

Вместе с главой уехали и обязанности того, кто внедряет систему у себя, — deployer в терминах регламента. Это та сторона, которой в типичном проекте оказывается заказчик: не тот, кто разработал агента, а тот, кто запустил его на своих клиентах и своих данных. Статью 26, которая описывает эти обязанности, Омнибус не менял: она просто начнёт действовать позже.

Государственного чек-листа, по которому можно свериться и сказать «мы сделали всё, что требовалось», до конца 2027 года не будет. Оттого что требования нет, убыток не исчезает.

Директиву, которая должна была облегчить иск, отозвали

Вторую половину конструкции убрали ещё раньше, и об этом знают гораздо меньше.

В сентябре 2022 года Европейская комиссия предложила отдельную директиву об ответственности за AI — AI Liability Directive, COM(2022) 496 final. Она должна была решить самую тяжёлую проблему потерпевшего: доказать, что вред причинила именно AI-система, когда ты не видел ни её кода, ни данных, ни логов. Директива вводила презумпции причинно-следственной связи и право требовать раскрытия доказательств.

Комиссия отозвала это предложение. Решение принято на заседании 16 июля 2025 года, уведомление опубликовано в Официальном журнале ЕС 6 октября 2025 года. Причина сформулирована в рабочей программе Комиссии на 2025 год дословно так:

No foreseeable agreement — the Commission will assess whether another proposal should be tabled or another type of approach should be chosen. — COM(2025) 45 final, Приложение IV, пункт 32

Здесь легко ошибиться с датой, и ошибаются часто: февраль 2025-го — это лишь анонс намерения в рабочей программе, а юридически предложение отозвано 6 октября 2025 года.

Общего европейского правила о том, как доказывать вину в деле с AI, нет и в ближайшее время не будет. Всё возвращается к национальному праву государства-члена, а оно в каждом своё. Именно поэтому любая статья, которая обещает вам «правила ЕС об ответственности за AI» одним списком, продаёт несуществующий товар.

Что всё-таки приходит вовремя — и почему это, скорее всего, не про вас

На фоне двух отложенных режимов один движется по расписанию, и его стоит знать точно, потому что вокруг него больше всего путаницы.

Директива (ЕС) 2024/2853 об ответственности за дефектную продукцию должна быть имплементирована государствами-членами до 9 декабря 2026 года и применяется к продуктам, выпущенным на рынок после этой даты. Главное новшество в ней — определение продукта:

'product' means all movables, even if integrated into, or inter-connected with, another movable or an immovable; it includes electricity, digital manufacturing files, raw materials and software. — Директива (ЕС) 2024/2853, статья 4(1)

Программное обеспечение теперь прямо названо продуктом. Отсюда заголовки вроде «за ошибку AI разработчик будет отвечать по правилам строгой ответственности». Формально это так. Только дальше в тексте стоят два ограничения, которые обычно не цитируют.

Первое — кто может предъявить иск. Статья 5(1) даёт право на возмещение «any natural person who suffers damage caused by a defective product». Истец — физическое лицо. Ваша компания в этой роли не выступает.

Второе — за что. Статья 6(1) содержит закрытый перечень видов вреда: смерть или телесное повреждение, повреждение или уничтожение имущества и уничтожение или повреждение данных. И в двух последних пунктах стоят исключения: имущество, которое используется исключительно в профессиональных целях, и данные, которые используются в профессиональных целях, выведены из-под действия директивы.

Сложите это вместе. Агент неправильно посчитал скидку, и вы потеряли клиента на сорок тысяч евро. Агент отправил контрагенту чужие условия, и сделка сорвалась. Агент испортил записи в CRM. Ни один из этих случаев новой директивой не покрывается: истец здесь юридическое лицо, убыток чисто экономический, а данные профессиональные. Это территория договора и национального права, а не ответственности за продукцию.

Мелочь, на которой тоже часто спотыкаются: исключение касается имущества, которое используется исключительно в профессиональных целях. Ноутбук, которым пользуются и для работы, и дома, под это исключение не подпадает: «исключительно» в тексте стоит не для красоты.

Ловушка, которая не ждёт 2027 года: вы можете стать поставщиком

Самая дорогая ошибка в распределении ролей — считать, что роль определяется тем, кто выставил счёт. Регламент определяет её иначе.

Статья 25 AI Act говорит, что дистрибьютор, импортёр, deployer или любая третья сторона считается поставщиком системы высокого риска и получает все обязанности поставщика по статье 16, если наступает одно из трёх обстоятельств:

  • они ставят своё имя или товарный знак на систему, уже выпущенную на рынок;
  • они вносят существенную модификацию в систему высокого риска, и она остаётся системой высокого риска;
  • они меняют целевое назначение системы — в том числе модели общего назначения — так, что она становится системой высокого риска.

Третий пункт описывает обычный понедельник во многих компаниях. Вы берёте модель общего назначения, оборачиваете её собственными промптами под отбор кандидатов или оценку платёжеспособности, и по букве регламента вы больше не клиент вендора, а поставщик системы высокого риска с полным набором обязанностей. Вендор при этом из этой роли выходит: статья 25(2) снимает её с того, кто изначально выпустил систему на рынок, — но не безусловно, а при условии, что он передаст новому поставщику определённый пакет документации и доступов.

Омнибус эту статью не отменил, а усилил. Он переписал часть 2 и расписал, что именно первоначальный поставщик обязан передать новому: техническую документацию, достаточную для оценки соответствия статье 16, информацию об известных ограничениях и режимах отказа, а также целевой технический доступ для тестирования и валидации. Обязанность заключать письменное соглашение с поставщиками компонентов распространена на тех, кто поставляет AI-модели, инструменты, услуги и процессы. И отдельно добавлены штрафы за нарушение именно этих частей — новым пунктом (da) статьи 99(4).

Дата применения у этой статьи та же — декабрь 2027-го. Но договоры, которые вы подписываете на этой неделе, спокойно доживут до неё. Вопрос «кем мы будем в терминах регламента, когда он заработает» дешевле задать сейчас, чем переоформлять цепочку поставок задним числом.

Что действует уже сейчас, пока остальное ждёт

Один блок обязанностей Омнибус не трогал: обязанности по прозрачности из статьи 50 применяются со 2 августа 2026 года, то есть уже действуют. Это требования раскрытия: человек должен знать, что взаимодействует с AI-системой, а сгенерированный контент должен быть помечен как сгенерированный.

И рядом есть единственный ближайший дедлайн в этой теме. Омнибус добавил новую часть 4 в статью 111 AI Act, которая касается систем, уже выпущенных на рынок: поставщики систем, которые генерируют синтетическое аудио, изображения, видео или текст и были выпущены на рынок до 2 августа 2026 года, должны привести их в соответствие с требованиями маркировки по статье 50(2) до 2 декабря 2026 года.

Порядок получается парадоксальный, но именно такой: сегодня от вас требуют сказать клиенту, что он говорит с машиной, и не требуют ничего насчёт того, кто ответит, если машина ошибётся.

В Украине закона об AI нет, и это тоже ответ

Для украинской компании всё короче. Действующего закона об искусственном интеллекте нет, зарегистрированного законопроекта в Верховной раде тоже нет.

Что есть — последовательность планов. Минцифры представило дорожную карту по регулированию ИИ 7 октября 2023 года и Белую книгу 26 июня 2024-го; оба документа — не нормативные акты. Распоряжение Кабинета министров № 457-р от 9 мая 2025 года утвердило план мероприятий, и его первый пункт ставит Минцифры срок разработать и подать Кабмину законопроект о правовом урегулировании в сфере развития искусственного интеллекта: IV квартал 2026 года. То есть до правительства проект должен только дойти, а до парламента — ещё позже. В июне 2026 года при профильном комитете Рады начала работать рабочая группа по будущему закону.

Итак, спор об ошибке агента в Украине сегодня решается по общим нормам гражданского и договорного права. Какие именно нормы применит суд в вашей ситуации — вопрос к вашему юристу с вашими фактами на руках, а не к статье в блоге. Мы сознательно не приводим здесь номеров статей: подбор нормы зависит от того, кто вы в конкретной цепочке и какой вред причинён, и ошибка в этом подборе стоит дороже самой консультации.

Кто отвечает на самом деле: тот, кто не может показать, что произошло

Общего европейского правила нет, профильного закона в Украине нет, ответственность за продукцию деловых убытков не покрывает. Остаются две вещи: что написано в договоре и что можно доказать.

Второе интереснее первого. Почти в любом споре об автономном действии проигрывать будет та сторона, которая не может воспроизвести, что именно произошло: на каких данных агент принял решение, с какой версией промпта и модели он работал, был ли там человек и что он видел. Без журнала вы не докажете свою правоту и не опровергнете чужую версию: вам просто нечем.

Требования вести такие журналы, кстати, пока тоже нет: статья 12 AI Act о ведении записей и статья 19 об автоматически сгенерированных логах лежат в той же отложенной главе. Журнал вы ведёте не для регулятора, а для той недели, когда придётся объяснять клиенту или суду, почему агент сделал то, что сделал.

Спор решают три вещи, и ни одну из них нельзя создать задним числом.

Первая и самая важная — журнал действий. Не «система логируется», а конкретно: что агент сделал, когда, на каких входных данных, с какой версией промпта и модели и кто из людей этот шаг видел. Логи, которые чистятся через тридцать дней, в споре о претензии полугодовой давности не стоят ничего. Остальные две проще: письменно зафиксированная граница полномочий (что агент делает без подтверждения человека, а что нет) и распределение ролей в договоре: кто отвечает за качество модели, кто за настройку под ваш процесс, кто за надзор в ежедневной работе.

Отвечает тот, кто не позаботился о границах. Выигрывает спор тот, у кого остались записи.

Вопросы, которые задают до запуска

Шесть вопросов, которые стоит закрыть до того, как агент начнёт работать с реальными клиентами. Они не заменяют юриста — они экономят ему часы, а вам деньги.

  1. Кто мы в терминах AI Act — deployer или поставщик? Если вы ставите своё имя на чужую систему или меняете её назначение, ответ может оказаться не тем, которого вы ожидали.
  2. Попадает ли наш сценарий в Приложение III? Отбор персонала, оценка платёжеспособности, доступ к услугам — типичные кандидаты. От этого зависит, коснётся ли вас декабрь 2027-го вообще.
  3. Что агент вправе делать без человека? Граница должна быть записана, а не подразумеваться. Разница между «предлагает скидку» и «предоставляет скидку» — это разница в цене ошибки.
  4. Где наши журналы и сколько они живут? Если логи чистятся через тридцать дней, а претензия приходит через полгода, у вас нет ничего.
  5. Что написано в договоре с подрядчиком об ответственности за действие агента? Не о качестве кода — о действии в проде.
  6. Кто наш контрагент по закону, если вред причинён клиенту? Клиент будет судиться с вами, а не с вашим вендором или поставщиком модели. Регресс к ним — отдельная история и отдельный пункт договора.

Где эта статья перестаёт работать

Это не юридическая консультация, и совета по конкретной ситуации здесь нет намеренно: ответ зависит от юрисдикции, роли сторон и характера вреда, а ни одного из этих трёх параметров мы не знаем.

Всё сказанное об AI Act и ответственности за продукцию относится к праву ЕС. Украина в число государств-членов не входит, поэтому механически переносить эти правила на украинский договор нельзя, и мы сознательно не пытались сделать это за вас.

Ну и даты двигаются. Лучшее доказательство — сам этот материал: обязанности, о которых полгода писали, что они начнут действовать 2 августа 2026 года, за неделю до этой даты переехали на декабрь 2027-го. Прежде чем опираться на любую дату отсюда, сверьтесь с действующей редакцией в EUR-Lex.

Если у вас уже работает агент, с которого начинается разговор с клиентом или который что-то меняет в ваших данных, самая короткая проверка займёт один вечер: возьмите последнюю неделю его работы и попробуйте воспроизвести три произвольных решения. Если не получается, ваш первый риск даже не юридический, а инженерный.

Grow2.ai строит front-office агентов под процесс клиента и вместе с ними — границы полномочий и журналы, по которым решение агента можно воспроизвести. Если хотите разобрать свой сценарий, напишите нам.

Читать дальше

Источники

Частые вопросы

Кто отвечает, если AI-агент ошибся?

Всегда человек или компания: машина — не субъект права и не может быть ответчиком. Европарламент зафиксировал это в резолюции от 20 октября 2020 года, указав, что наделять AI-системы правосубъектностью не нужно, поскольку вред почти всегда оказывается результатом действий того, кто систему построил, внедрил или вмешался в неё. Кто именно из этих троих будет отвечать в вашем случае, зависит от ролей, закреплённых в договоре, и от национального права; единого европейского правила на этот счёт нет.

Действуют ли уже сейчас обязанности AI Act в отношении систем высокого риска?

Нет. Регламент (ЕС) 2026/1744, действующий с 27 июля 2026 года, перенёс их применение: для самостоятельных систем из Приложения III — на 2 декабря 2027 года, для встроенных в регулируемые продукты из Приложения I — на 2 августа 2028 года. Причиной названы неготовность гармонизированных стандартов и незавершённое создание национальных компетентных органов. Обязанности по прозрачности из статьи 50 при этом по-прежнему применяются со 2 августа 2026 года.

Что случилось с директивой об ответственности за AI?

Её отозвали. Европейская комиссия приняла решение об отзыве предложения COM(2022) 496 final на заседании 16 июля 2025 года, уведомление опубликовано в Официальном журнале ЕС 6 октября 2025 года. Причина в рабочей программе Комиссии сформулирована как отсутствие перспективы соглашения, с обещанием оценить, стоит ли вносить другое предложение. Директива должна была ввести презумпции причинно-следственной связи и право требовать раскрытия доказательств — без неё бремя доказывания для потерпевшего по-прежнему определяется национальным правом.

Покрывает ли новая Директива об ответственности за дефектную продукцию убытки бизнеса от ошибки агента?

По большей части нет. Директива (ЕС) 2024/2853 действительно называет программное обеспечение продуктом в статье 4(1) и должна быть имплементирована до 9 декабря 2026 года. Но право на возмещение по статье 5(1) есть только у физического лица, а перечень видов вреда в статье 6(1) закрытый: смерть или телесное повреждение, вред имуществу и уничтожение данных, причём имущество, которое используется исключительно в профессиональных целях, и профессиональные данные выведены из-под действия директивы. Типичный деловой убыток от ошибки агента — потерянный клиент, сорванная сделка, испорченные записи в CRM — под эту директиву не подпадает.

Можем ли мы случайно стать поставщиком AI-системы, ничего не разрабатывая?

Да, и это один из самых частых недооценённых рисков. По статье 25 AI Act вы считаетесь поставщиком со всеми обязанностями по статье 16, если ставите своё имя или товарный знак на уже выпущенную систему, вносите в неё существенную модификацию или меняете целевое назначение системы так, что она становится системой высокого риска. Последнее покрывает обычный сценарий: взять модель общего назначения и обернуть её собственными промптами под отбор кандидатов или оценку платёжеспособности. Первоначальный поставщик при этом из роли выходит.

Какой закон об AI действует в Украине?

По состоянию на август 2026 года — никакого профильного. Действующего закона об искусственном интеллекте нет, зарегистрированного законопроекта в Верховной раде нет. Минцифры обнародовало дорожную карту регулирования 7 октября 2023 года и Белую книгу 26 июня 2024 года, но оба документа — не нормативные акты. Распоряжение Кабинета министров Украины № 457-р от 9 мая 2025 года обязывает Минцифры подать законопроект Кабмину лишь в IV квартале 2026 года. До тех пор споры решаются по общим нормам гражданского и договорного права.

Что делать сейчас, пока правила не вступили в силу?

Три вещи, и все они создаются до инцидента: журнал действий агента с привязкой к версии промпта и модели, письменно зафиксированная граница полномочий (что агент делает без подтверждения человека) и чёткое распределение ролей в договоре с подрядчиком. Отсутствие государственного требования не уменьшает убытка — оно лишь означает, что спор будут решать по договору и доказательствам. Сторона, которая не может воспроизвести, что именно сделал агент, оказывается в таком споре в более слабой позиции независимо от того, кто виноват на самом деле.

AI-агенты для бизнеса — 2–3 письма в месяц

Разборы, кейсы и инструменты, которые уже работают в компаниях.

Без спама. Отписаться можно в один клик.