Международная технологическая компания внедрила систему динамического ценообразования на основе искусственного интеллекта для автоматического определения цен на свою продукцию на различных рынках.

Система автоматически корректировала цены, анализируя стоимость товаров у конкурентов, поведение клиентов, уровень складских запасов и рыночную информацию.

На первом этапе компания зафиксировала рост продаж и повышение прибыльности. Однако впоследствии появились претензии, что отдельным группам клиентов применялись разные цены, а алгоритм в некоторых сегментах рынка формировал результаты, способные ограничивать конкуренцию.

После начала проверки со стороны регулирующего органа компания столкнулась с трудностями при объяснении принципов работы алгоритма, понесла значительные расходы на юридическую защиту и испытала серьёзные репутационные потери.

Ключевой риск: Проблема заключалась не в использовании искусственного интеллекта как таковом. Основной риск был связан с тем, что алгоритмические решения не были заранее оценены с точки зрения требований конкурентного законодательства и общего правового соответствия.

Компания, оказывающая услуги клиентской поддержки, внедрила систему на основе искусственного интеллекта для анализа записей телефонных разговоров и переписки с клиентами.

Целью проекта было повышение качества обслуживания клиентов и увеличение операционной эффективности.

Позднее было установлено, что наборы данных, использованные для обучения системы, не были должным образом анонимизированы, а часть персональных данных обрабатывалась без явно выраженного согласия субъектов данных либо без иного предусмотренного законом правового основания.

После поступления жалоб орган по защите персональных данных начал проверку, провёл аудит деятельности компании по обработке данных и инициировал применение различных мер ответственности.

Кроме того, клиенты предъявили требования о возмещении как имущественного ущерба, так и морального вреда.

Ключевой риск: Проблема заключалась не в использовании искусственного интеллекта. Основной риск был связан с тем, что законность источников данных, использованных для обучения системы искусственного интеллекта, не была предварительно проверена и оценена с точки зрения требований законодательства о защите персональных данных.

Медиакомпания начала использовать инструменты искусственного интеллекта для создания изображений и текстов в рамках своих маркетинговых кампаний.

Созданный контент быстро получил высокий уровень вовлечённости аудитории и стал использоваться в различных странах.

Однако впоследствии появились претензии о том, что отдельные материалы имеют существенное сходство с произведениями, принадлежащими третьим лицам и защищёнными авторским правом.

После обращений правообладателей часть контента была удалена с цифровых платформ, компания столкнулась с требованиями о выплате лицензионных платежей и компенсации за нарушение авторских прав, а также стала участником международных судебных разбирательств.

Кроме того, компания подверглась риску договорной ответственности перед собственными клиентами.

Ключевой риск: Проблема заключалась не в использовании искусственного интеллекта для создания контента. Основной риск был связан с тем, что созданные материалы не были должным образом проверены на соответствие требованиям законодательства об интеллектуальной собственности и авторском праве до их публикации.

Быстрорастущая компания, ежегодно получавшая тысячи заявлений о приёме на работу, внедрила систему на основе искусственного интеллекта для автоматической оценки резюме.

Система ранжировала кандидатов, анализируя уровень образования, продолжительность профессионального опыта, отраслевую специализацию и исторические данные о ранее принятых сотрудниках.

На первом этапе процесс подбора персонала значительно ускорился, а расходы на работу отдела кадров сократились.

Однако спустя некоторое время появились заявления о том, что кандидаты определённых возрастных категорий, выпускники отдельных университетов и женщины систематически получали более низкие оценки.

Проведённая проверка показала, что алгоритм обучался на исторических данных о найме и начал воспроизводить предвзятость, существовавшую в предыдущих кадровых решениях.

В результате компания столкнулась с обвинениями в дискриминации, её процедуры подбора персонала стали предметом проверки со стороны регулирующих органов, а сама компания понесла серьёзные репутационные потери.

Ключевой риск: Проблема заключалась не в использовании искусственного интеллекта при подборе персонала. Основной риск был связан с тем, что результаты работы алгоритма не проходили регулярный аудит, а потенциальное дискриминационное воздействие системы не оценивалось должным образом.

Медицинская организация внедрила систему поддержки принятия клинических решений на основе искусственного интеллекта для анализа результатов лучевой диагностики. Система выполняла предварительную оценку радиологических изображений и формировала рекомендации для врачей относительно возможного диагноза.

В одном из случаев система классифицировала обнаруженное изменение как имеющее низкий уровень риска. Позднее у пациента было диагностировано тяжёлое заболевание.

После этого пациент обратился в суд, утверждая, что несвоевременная диагностика причинила ему существенный вред.

В результате возник ключевой юридический вопрос:

• Кто несёт ответственность?
• Врач?
• Медицинское учреждение?
• Разработчик программного обеспечения?
• Поставщик системы искусственного интеллекта?

Подобные дела, вероятно, станут одним из наиболее важных направлений развития медицинского права по мере расширения применения искусственного интеллекта в здравоохранении.

Ключевой риск: Проблема заключалась не в использовании искусственного интеллекта в качестве инструмента поддержки диагностики. Основной риск был связан с отсутствием чётко определённых границ человеческого контроля и распределения юридической ответственности между всеми участниками процесса.

Технологическая компания разработала автономную систему управления складом на основе искусственного интеллекта. Система самостоятельно управляла перемещением, сортировкой и отправкой товаров без непосредственного участия человека.

В результате ошибки программного обеспечения система приняла неверные операционные решения, что привело к значительным убыткам, связанным с дорогостоящей продукцией. Компания-клиент предъявила требование о возмещении ущерба.

На этом этапе возник ключевой юридический вопрос:

• Кто несёт ответственность за причинённый ущерб?
• Разработчик программного обеспечения?
• Производитель оборудования?
• Компания, эксплуатирующая систему?
• Или все участники несут ответственность совместно?

По мере распространения автономных систем подобные споры, вероятно, станут одной из центральных тем правового регулирования искусственного интеллекта.

Ключевой риск: Проблема заключалась не в использовании автономных систем. Основной риск был связан с тем, что возможные сценарии ошибок, распределение юридической ответственности и механизмы договорного распределения рисков не были определены до начала эксплуатации системы.