İnsan merkezli ve etik gelişim
Onaylanan hükmün amacı, yeni şeffaflık ve risk yönetimi kuralları belirleyerek Avrupa’da yapay zekanın insan merkezli ve etik gelişimini garanti etmektir. Avrupa Parlamentosu Üyeleri, Komisyonun teklifinde yaptıkları değişikliklerde yapay zeka sistemlerinin insanlar tarafından denetlenmesini, güvenli, şeffaf, izlenebilir, ayrımcı olmayan ve çevre dostu olmasını sağlamayı amaçlıyor. Ayrıca, bugünün ve yarının yapay zeka sistemlerine uygulanabilmesi için teknolojiden bağımsız olacak şekilde tasarlanmış yapay zeka için tek tip bir tanım istiyorlar. Yasanın nihai şekli konusunda Konsey ile müzakerelerden önce, bu taslak müzakere yetkisinin 12-15 Haziran tarihlerinde yapılacak oturumda tüm Parlamento tarafından onaylanması gerekiyor.
Yüz tanıma
Sosyalistler, Yeşiller ve liberaller tarafından talep edilen yüz tanıma teknolojilerinin tamamen yasaklanması 58 evet, 36 aleyhte ve 10 çekimser oyla kabul edildi. Popolari’nin muhalefeti nedeniyle ayrı bir oylamaya tabi tutuldu. Bu bağlamda, yüz tanıma veritabanları oluşturmak için sosyal medyadan biyometrik verilerin veya güvenlik kameraları gibi CCTV sistemlerinden görüntülerin ayrım gözetmeksizin kazınması özellikle yasaklanmıştır ve bu nedenle insan haklarını ve mahremiyet hakkını ihlal etmektedir. .
Risk ve güvenlik
Oluşturulan kurallar, risk temelli bir yaklaşımı takip eder ve yapay zekanın oluşturabileceği tehlike düzeyine göre tedarikçiler ve kullanıcılar için yükümlülükler belirler. Bilinçaltı veya kasıtlı olarak manipülatif teknikler kullanan, insanların savunmasızlıklarını kullanan veya sosyal puanlama için kullanılanlar (insanları sosyal davranışlarına, sosyo-ekonomik durumlarına, kişisel özellikler).
Yasaklar ve tanımlama sistemleri
Avrupa Parlamentosu Üyeleri, listeyi, aşağıdakiler gibi AI sistemlerinin izinsiz ve ayrımcı kullanımlarına ilişkin yasakları içerecek şekilde önemli ölçüde değiştirdi: halka açık alanlarda “gerçek zamanlı” uzaktan biyometrik tanımlama sistemleri; ciddi suçların kovuşturulması için ve yalnızca adli yetki ile kolluk kuvvetleri hariç olmak üzere, “posta” uzaktan biyometrik tanımlama sistemleri; hassas özellikleri (örn. cinsiyet, etnik köken, vatandaşlık durumu, din, siyasi yönelim) kullanan biyometrik sınıflandırma sistemleri; tahmine dayalı polislik sistemleri (profil, konum veya geçmişteki suç davranışına dayalı); kolluk kuvvetleri, sınır yönetimi, işyeri ve eğitim kurumlarında duygu tanıma sistemleri.
Sağlık, güvenlik ve temel hakların zarar görmesi
Yüksek riskli alanların sınıflandırılması, insanların sağlığına, güvenliğine, temel haklarına veya çevreye verilen zararı da içerecek şekilde genişletildi. Ayrıca siyasi kampanyalarda seçmenleri etkilemek için AI sistemleri ve Dijital hizmetler yasası kapsamında 45 milyondan fazla kullanıcısı olan sosyal medya platformları tarafından kullanılan öneri sistemleri yüksek risk listesine eklendi. Temel hakların, sağlık ve güvenliğin ve çevrenin, demokrasinin ve hukuk devletinin güçlü bir şekilde korunmasını sağlaması gereken temel model sağlayıcılar (AI alanında yeni ve hızla gelişen bir gelişme) için yükümlülükler dahil edilmiştir. Riskleri değerlendirmeli ve azaltmalı, tasarım, bilgi ve çevresel gerekliliklere uymalı ve AB veri tabanına kaydolmalıdırlar.
Onaylanan hükmün amacı, yeni şeffaflık ve risk yönetimi kuralları belirleyerek Avrupa’da yapay zekanın insan merkezli ve etik gelişimini garanti etmektir. Avrupa Parlamentosu Üyeleri, Komisyonun teklifinde yaptıkları değişikliklerde yapay zeka sistemlerinin insanlar tarafından denetlenmesini, güvenli, şeffaf, izlenebilir, ayrımcı olmayan ve çevre dostu olmasını sağlamayı amaçlıyor. Ayrıca, bugünün ve yarının yapay zeka sistemlerine uygulanabilmesi için teknolojiden bağımsız olacak şekilde tasarlanmış yapay zeka için tek tip bir tanım istiyorlar. Yasanın nihai şekli konusunda Konsey ile müzakerelerden önce, bu taslak müzakere yetkisinin 12-15 Haziran tarihlerinde yapılacak oturumda tüm Parlamento tarafından onaylanması gerekiyor.
Yüz tanıma
Sosyalistler, Yeşiller ve liberaller tarafından talep edilen yüz tanıma teknolojilerinin tamamen yasaklanması 58 evet, 36 aleyhte ve 10 çekimser oyla kabul edildi. Popolari’nin muhalefeti nedeniyle ayrı bir oylamaya tabi tutuldu. Bu bağlamda, yüz tanıma veritabanları oluşturmak için sosyal medyadan biyometrik verilerin veya güvenlik kameraları gibi CCTV sistemlerinden görüntülerin ayrım gözetmeksizin kazınması özellikle yasaklanmıştır ve bu nedenle insan haklarını ve mahremiyet hakkını ihlal etmektedir. .
Risk ve güvenlik
Oluşturulan kurallar, risk temelli bir yaklaşımı takip eder ve yapay zekanın oluşturabileceği tehlike düzeyine göre tedarikçiler ve kullanıcılar için yükümlülükler belirler. Bilinçaltı veya kasıtlı olarak manipülatif teknikler kullanan, insanların savunmasızlıklarını kullanan veya sosyal puanlama için kullanılanlar (insanları sosyal davranışlarına, sosyo-ekonomik durumlarına, kişisel özellikler).
Yasaklar ve tanımlama sistemleri
Avrupa Parlamentosu Üyeleri, listeyi, aşağıdakiler gibi AI sistemlerinin izinsiz ve ayrımcı kullanımlarına ilişkin yasakları içerecek şekilde önemli ölçüde değiştirdi: halka açık alanlarda “gerçek zamanlı” uzaktan biyometrik tanımlama sistemleri; ciddi suçların kovuşturulması için ve yalnızca adli yetki ile kolluk kuvvetleri hariç olmak üzere, “posta” uzaktan biyometrik tanımlama sistemleri; hassas özellikleri (örn. cinsiyet, etnik köken, vatandaşlık durumu, din, siyasi yönelim) kullanan biyometrik sınıflandırma sistemleri; tahmine dayalı polislik sistemleri (profil, konum veya geçmişteki suç davranışına dayalı); kolluk kuvvetleri, sınır yönetimi, işyeri ve eğitim kurumlarında duygu tanıma sistemleri.
Sağlık, güvenlik ve temel hakların zarar görmesi
Yüksek riskli alanların sınıflandırılması, insanların sağlığına, güvenliğine, temel haklarına veya çevreye verilen zararı da içerecek şekilde genişletildi. Ayrıca siyasi kampanyalarda seçmenleri etkilemek için AI sistemleri ve Dijital hizmetler yasası kapsamında 45 milyondan fazla kullanıcısı olan sosyal medya platformları tarafından kullanılan öneri sistemleri yüksek risk listesine eklendi. Temel hakların, sağlık ve güvenliğin ve çevrenin, demokrasinin ve hukuk devletinin güçlü bir şekilde korunmasını sağlaması gereken temel model sağlayıcılar (AI alanında yeni ve hızla gelişen bir gelişme) için yükümlülükler dahil edilmiştir. Riskleri değerlendirmeli ve azaltmalı, tasarım, bilgi ve çevresel gerekliliklere uymalı ve AB veri tabanına kaydolmalıdırlar.