Avrupa'da onaylanan Yapay Zekâ Yasası neler getirecek?

Son yıllarda teknolojiden sağlığa, tıptan ekonomiye kadar her alanda gündeme damga vuran yapay zekanın artık bir yasası. Avrupa Birliği (AB) Komisyonu tarafından onaylanan Yapay Zeka Yasası yeni bir dönemin de kapılarını açıyor. Peki bu yasa neler getirecek ve ne amaçlanıyor? Gelin biraz yakından bakalım...
 
 
Yapay Zekâ (YZ) sistemlerinin piyasaya arzı, hizmete sunulması ve bazı uygulamaların yasaklanmasına dair kuralları belirleyen Yapay Zekâ Yasası, 46 hayır oyuna karşı 523 evet oyu ile Avrupa Parlamentosu’nda (AP) onaylandı. AB Konseyi’nin de onayını alması beklenen yasa gelecek yıldan itibaren kademeli olarak yürürlüğe girecek.
 
AB'nin getirdiği bu düzenleme öncelikle yapay zeka teknolojilerinin Avrupa değerlerine, demokratik toplum yapısına ve temel haklara zarar vermeden ekonomiye ve topluma yapacağı katkıları en üst seviyeye taşımayı hedefliyor. Temel hakların, demokrasinin, hukukun üstünlüğünün ve çevresel sürdürülebilirliğin yüksek riskli yapay zekadan korunması amaçlanırken, diğer yandan inovasyonu artırmak ve Avrupa'yı bu alanda bir lider haline getirmek en önemli hedefler arasında yer alıyor.
 
Risk temelli bir yaklaşımla hazırlanan yasa, topluma zarar verme potansiyeli yüksek olan insan davranışlarını yönlendirme, insanların zafiyetlerini kullanma veya biyometrik sınıflandırma gibi işlevlere sahip yapay zeka sistemlerinin kullanımını yasaklıyor.
 
Yapay zeka yasası kapsamında, makine öğrenimi sistemleri toplum için oluşturdukları potansiyel riske göre dört ana kategoriye ayrılacak. Yüksek riskli olarak kabul edilen sistemler, AB pazarına girmeden önce uygulanacak katı kurallara tabi olacak. Genel amaçlı yapay zeka kuralları, mayıs 2025'te yürürlüğe girdikten bir yıl sonra, yüksek riskli sistemler için yükümlülükler ise üç yıl içinde uygulanacak.
 
Hangi uygulamalar yasaklanıyor?
 
Yeni kurallar, hassas özelliklere dayalı biyometrik kategorizasyon sistemleri ve yüz tanıma veritabanları oluşturmak için internetten veya CCTV görüntülerinden yüz görüntülerinin hedeflenmeden kazınması dahil olmak üzere vatandaşların haklarını tehdit eden belirli uygulamaları yasaklıyor. İşyerinde ve okullarda duygu tanıma, sosyal puanlama ve insan davranışını manipüle eden veya insanların güvenlik açıklarını istismar eden yapay zeka da yasaklanacak.
 
Biyometrik tanımlama sistemlerinin  kolluk kuvvetleri tarafından kullanılması, kapsamlı bir şekilde listelenmiş ve dar tanımlanmış durumlar haricinde, ilke olarak yasaklanıyor. "Gerçek zamanlı" biyometrik tanımlama sistemleri, örneğin kayıp bir kişinin hedefli olarak aranmasını veya bir terör saldırısının önlenmesini içerebilecek. Bu tür sistemlerin kullanımı yüksek riskli bir kullanım durumu olarak kabul edilecek ve cezai bir suçla bağlantılı olarak adli izin gerektirecek.
 
Yüksek riskli sistemler için yükümlülükler
 
Sağlık, güvenlik, temel haklar, çevre, demokrasi ve hukukun üstünlüğüne önemli potansiyel zararları nedeniyle diğer yüksek riskli yapay zeka sistemleri için de açık yükümlülükler öngörülüyor. Yüksek riskli kullanımlara örnek olarak kritik altyapı, eğitim ve mesleki eğitim, istihdam, temel özel ve kamu hizmetleri (örneğin sağlık hizmetleri, bankacılık), kolluk kuvvetlerindeki belirli sistemler, göç ve sınır yönetimi, adalet ve demokratik süreçler (örneğin seçimleri etkileme) verilebilir. Bu tür sistemlerin riskleri değerlendirip azaltması, kullanım kayıtlarını tutması, şeffaf ve doğru olması ve insan gözetimini sağlaması bekleniyor. Diğer taraftan vatandaşlar da, yapay zeka sistemleri hakkında şikayette bulunma ve haklarını etkileyen yüksek riskli yapay zeka sistemlerine dayalı kararlar hakkında açıklama alma hakkına sahip olacak.
 
Şeffaflık gereklilikleri
 
Genel amaçlı yapay zeka (GPAI) sistemleri ve bunların dayandığı modellerin, AB telif hakkı yasasına uygunluk ve eğitim için kullanılan içeriğin ayrıntılı özetlerinin yayınlanması dahil olmak üzere, belirli şeffaflık gereksinimlerini karşılaması gerekiyor. Sistemik risk oluşturabilecek daha güçlü modeller, model değerlendirmelerinin yapılması, sistemik risklerin değerlendirilmesi ve azaltılması ve olayların raporlanması gibi ek gerekliliklerle karşı karşıya kalacak.
 
Ayrıca, yapay veya manipüle edilmiş görüntü, ses veya video içeriklerinin ("deepfakes") bu şekilde açıkça etiketlenmesi gerekiyor.
 
İlk bağlayıcı yasa
 
AB Parlamentosunda kabul edilen Yapay Zeka yasasının riskleri azaltmak, fırsatlar yaratmak, ayrımcılıkla mücadele etmek ve şeffaflık getirmek için dünyanın ilk bağlayıcı yapay zeka yasası olduğunu belirten İç Pazar Komitesi eş raportörü Brando Benifei, "Parlamento sayesinde kabul edilemez yapay zeka uygulamaları Avrupa'da yasaklanacak ve işçilerin ve vatandaşların hakları korunacak. Yasa yürürlüğe girmeden önce kurallara uymaya başlamaları için şirketleri desteklemek üzere Yapay Zeka Ofisi kurulacak. İnsanların ve Avrupa değerlerinin yapay zekanın  gelişiminin tam merkezinde yer almasını sağladık." dedi.
 
Sivil Özgürlükler Komitesi eş raportörü Dragos Tudorache de yapay zeka kavramını toplumların temelini oluşturan temel değerlerle ilişkilendirdiklerini belirterek, "Ancak önümüzde Yapay Zeka Yasası'nın ötesine geçen pek çok çalışma var. Yapay zeka bizi demokrasilerimizin, eğitim modellerimizin, işgücü piyasalarımızın ve savaş yöntemlerimizin merkezinde yer alan toplumsal sözleşmeyi yeniden düşünmeye itecektir. YZ Yasası, teknoloji etrafında inşa edilen yeni bir yönetişim modeli için bir başlangıç noktasıdır. Şimdi bu yasayı uygulamaya koymaya odaklanmalıyız". dedi.