AI uygulamalarının geliştirilmesi/satın alınması için bir sözleşmenin neden standart bir yazılım sözleşmesi degildir?
AI uygulamaları için yapılan sözleşmeler, AI yazılımının kendine has teknik özelliklerinden dolayı standart yazılım sözleşmeleri değildir. AI yazılımı verilere bağımlıdır ve son ürünün ne olacağını önceden tahmin etmek zordur. Bu da AI yazılımının performansını garanti etmeyi ve geliştirme hatalarından kimin sorumlu olduğunu belirlemeyi zorlaştırır. Ayrıca, eğitilmiş modellerin ve eğitim veri setlerinin yeniden kullanımı için büyük bir talep vardır, bu da fikri mülkiyet ve kullanım koşulları ile ilgili karmaşık sorunlara yol açar.
Standart sözleşme maddeleri
Buna bir örnek, “kamu kuruluşları tarafından Yapay Zekâ (AI) satın alınması için standart sözleşme maddeleri”dir.[1] Bu sözleşme, yüksek riskli AI sistemlerini satın alan hükümetler için hazırlanmıştır. Henüz bir model sözleşmedir. Satın alma yapan tarafların lehine hazırlanmıştır ve tedarikçilerin normalde kabul etmeyeceği hükümler içermektedir.
AI ve geleneksel yazılım arasındaki farklar
AI yazılımının en önemli teknik özelliklerinden biri verilere bağımlı olmasıdır. Bu, modeli eğitmek için kullanılan verilerin kalitesinin, AI yazılımının performansı için kritik olduğu anlamına gelir. Veriler düşük kalitede ise, AI yazılımı büyük olasılıkla kötü performans gösterecektir. Bu durum genellikle "çöp girerse, çöp çıkar" olarak ifade edilir.
AI yazılımının bir diğer önemli özelliği, ex-post doğrulama yapmanın zor olmasıdır. Eğitilmiş bir model oluşturulduğunda, insanlar için genellikle modelin oluşturulma sürecini ve eğitilen modelin yapısını anlamak zordur. Bu da geliştirme hatalarından kimin sorumlu olduğunu belirlemeyi zorlaştırır.
Ayrıca, eğitilmiş modellerin ve eğitim veri setlerinin yeniden kullanımı için büyük bir talep vardır. Eğitilmiş modeller, ek öğrenme ile evrilebilmekte ve başka kullanımlara uyarlanması nispeten kolaydır. Bu, fikri mülkiyet ve kullanım koşulları ile ilgili karmaşık sorunlara yol açmaktadır.
Farkların listesi AI ve yazılım arasındaki farkların tablosu
AI ve yazılım geliştirme süreci farklılıkları
Standart yazılımın (solda: şelale modeli) geliştirme süreci, AI yazılımının geliştirme sürecinden (sağda: iteratif süreç) farklıdır:
Sonuç
AI yazılımının bu kendine özgü özellikleri ışığında, AI uygulamaları için sözleşmelerin bu karmaşık sorunları dikkate alacak şekilde dikkatlice hazırlanması önemlidir. Bu, ilgili tarafların hakları ve sorumlulukları konusunda netlik sağlamaya ve anlaşmazlıkların önlenmesine yardımcı olabilir. Bir AI uygulamasının geliştirilmesi veya satın alınmasıyla ilgili bir sözleşme hazırlatmak veya gözden geçirmek istiyorsanız, Mustafa Kahya iletişime geçin.
[1] AI_Procurement_Clauses_template_High_Risk-EN.pdf (bg.legal)
