Uluslararası satış yapan bir teknoloji şirketi, ürün fiyatlarını dinamik olarak belirlemek amacıyla yapay zeka destekli fiyatlandırma sistemi kullanmaya başlamıştır.
Sistem; rakip fiyatları, müşteri davranışlarını, stok seviyelerini ve pazar verilerini analiz ederek otomatik fiyat güncellemeleri yapmaktadır.

İlk aşamada satışlar ve kârlılık artmıştır. Ancak daha sonra bazı müşteri gruplarına farklı fiyatlar uygulandığı ve algoritmanın belirli pazarlarda rekabeti sınırlayıcı sonuçlar ürettiği iddiaları ortaya çıkmıştır.

Düzenleyici kurum tarafından başlatılan inceleme sonucunda şirket; algoritmik kararların nasıl alındığını açıklamakta zorlanmış, önemli miktarda savunma maliyetiyle karşılaşmış ve kamuoyunda itibar kaybı yaşamıştır.

Temel Risk: Sorun yapay zekanın kullanılması değildir. Sorun, algoritmik kararların hukuki ve rekabet hukuku açısından önceden değerlendirilmemiş olmasıdır.

Bir müşteri hizmetleri şirketi, çağrı kayıtlarını ve müşteri yazışmalarını analiz etmek amacıyla yapay zeka tabanlı bir sistem kullanmaya başlamıştır.

Amaç müşteri deneyimini geliştirmek ve operasyonel verimliliği artırmaktır.

Ancak sistemin eğitildiği veri setlerinde kişisel verilerin yeterince anonimleştirilmediği ve bazı verilerin açık rıza veya uygun hukuki dayanak olmadan işlendiği tespit edilmiştir.
Yapılan şikâyetler sonrasında şirket hakkında veri koruma incelemesi başlatılmış, veri işleme faaliyetleri denetlenmiş ve çeşitli yaptırımlar gündeme gelmiştir.

Buna ek olarak müşteriler tarafından maddi ve manevi tazminat talepleri ileri sürülmüştür.

Temel Risk: Sorun teknoloji değildir. Sorun, yapay zekanın beslendiği veri kaynaklarının hukuki uygunluğunun değerlendirilmemesidir.

Bir medya ve içerik şirketi, pazarlama faaliyetlerinde kullanmak üzere yapay zeka destekli görsel ve metin üretim araçlarından yararlanmaya başlamıştır.

Üretilen içerikler kısa sürede yüksek etkileşim sağlamış ve birçok ülkede kullanılmaya başlanmıştır.

Ancak daha sonra bazı içeriklerin üçüncü kişilere ait eserlerle yüksek benzerlik taşıdığı iddiaları ortaya çıkmıştır.

Hak sahipleri tarafından yapılan başvurular sonucunda içeriklerin bir kısmı platformlardan kaldırılmış, şirket lisans ve telif talepleriyle karşılaşmış ve uluslararası düzeyde hukuki süreçler başlamıştır.

Şirket ayrıca müşterilerine karşı sözleşmesel sorumluluk riskiyle de karşı karşıya kalmıştır.

Temel Risk: Sorun yapay zeka tarafından içerik üretilmesi değildir. Sorun, içeriklerin fikri mülkiyet ve telif hakları açısından yeterince denetlenmemiş olmasıdır.

Büyüyen bir şirket, yılda binlerce iş başvurusu aldığı için özgeçmiş değerlendirme süreçlerinde yapay zeka destekli bir tarama sistemi kullanmaya başlamıştır.

Sistem; eğitim geçmişi, deneyim süresi, sektör bilgisi ve önceki işe alım verilerini analiz ederek adayları otomatik olarak sıralamaktadır.

İlk aşamada süreçler hızlanmış ve insan kaynakları maliyetleri azalmıştır.

Ancak bir süre sonra belirli yaş gruplarının, belirli üniversite mezunlarının veya kadın adayların sistem tarafından daha düşük puanlandığı iddiaları ortaya çıkmıştır.

Yapılan incelemelerde algoritmanın geçmiş işe alım verilerinden öğrenme yaptığı ve geçmişteki insan önyargılarını tekrar üretmeye başladığı görülmüştür.

Şirket ayrımcılık iddialarıyla karşı karşıya kalmış, işe alım süreçleri incelemeye alınmış ve ciddi itibar riski yaşamıştır.

Temel Risk: Sorun yapay zekanın işe alımda kullanılması değildir. Sorun, algoritmanın sonuçlarının düzenli olarak denetlenmemesi ve ayrımcılık etkilerinin ölçülmemesidir.

Bir sağlık kuruluşu, görüntüleme sonuçlarını analiz eden yapay zeka destekli bir karar destek sistemi kullanmaya başlamıştır. Sistem radyolojik görüntüler üzerinde ön değerlendirme yapmakta ve doktorlara olası teşhis önerileri sunmaktadır.

Bir hastada sistem tarafından düşük riskli olarak işaretlenen bulgu daha sonra ciddi bir hastalık olarak tespit edilmiştir.

Hasta zarar gördüğünü ileri sürerek hukuki süreç başlatmıştır.

Bu noktada önemli soru ortaya çıkmıştır:
Sorumluluk kimdedir?
Doktorda mı?
Hastanede mi?
Yazılım geliştiricisinde mi?
Yapay zeka sağlayıcısında mı?

Bu tür dosyalar gelecekte sağlık hukukunun en önemli tartışma alanlarından biri olacaktır.

Temel Risk: Sorun yapay zekanın teşhis desteği vermesi değildir. Sorun, insan kontrolünün sınırlarının ve sorumluluk paylaşımının net olarak belirlenmemesidir.

Bir teknoloji şirketi, yapay zeka destekli otonom depo yönetim sistemi geliştirmiştir. Sistem insan müdahalesi olmadan ürünlerin taşınmasını, sınıflandırılmasını ve sevkiyat süreçlerini yönetmektedir.

Yazılımdaki bir hata nedeniyle sistem yanlış kararlar vermiş ve yüksek maliyetli ürünlerde ciddi zararlar oluşmuştur. Müşteri şirket tazminat talebinde bulunmuştur.

Bu aşamada yine kritik soru ortaya çıkmıştır:
Zarardan kim sorumludur?
Yazılım geliştiricisi mi?
Donanım üreticisi mi?
Sistemi kullanan işletme mi?
Yoksa tüm taraflar birlikte mi?

Gelecekte yapay zeka kaynaklı uyuşmazlıkların önemli bölümü bu sorular etrafında şekillenecektir.

Temel Risk: Sorun otonom sistemlerin kullanılması değildir. Sorun, hata senaryoları ve sorumluluk dağılımının önceden planlanmamış olmasıdır.