Hollanda UWV'den yeni bir skandal, yeni yapay zeka uygulaması Gizlilik Yasasını İhlal Ediyor!

UWV'nin Yeni AI Sistemi Gizlilik Yasasını İhlal Edebilir

Hollanda'daki Sosyal Güvenlik Kurumu kısa süre önce siteye işlem yapmak için bağlananları takipe almış ve binlerce kişiye ceza kesmiş ve ödeneklerini geri durdurmuştu. Açılan dava sonucu, haksız bulundu ve alelen gizlilik yasasının ihlal edildiğine karar verilmişti. Özür dileyen kurum, uygulamayı iptal etmişti. Ancak aradan 6 ay geçmeden, başka bir yapay zeka uygulamasının benzer ihlaller yaptığını ortaya çıkardı. 

UWV, yıllık değerlendirme raporunda, AI sistemini İşe Yerleştirme Hizmeti için kullanmayı planladığını belirtti. Bu hizmet kapsamında iş arayanlar potansiyel işverenlerle eşleştiriliyor. UWV, yapay zeka yardımıyla olası eşleşmeleri önermek istiyor.

Ancak satın alınan AI aracıyla ilgili son zamanlarda bazı 'sorular' ortaya çıktı, çünkü bu araç muhtemelen Avrupa'nın AVG gizlilik mevzuatını ihlal ediyor. UWV, bu soruların neler olduğunu açıklamadı. Ancak, bu soruların UWV'de süreçleri devam eden vatandaşların verileriyle ilgili olmadığı belirtildi. Soruların, AI'nin internetten topladığı verilerle nasıl başa çıktığı ile ilgili olduğu ifade edildi. UWV bu konuda daha fazla açıklama yapmadı.

Bu sorular muhtemelen yakın zamanda Hollanda Veri Koruma Otoritesi'nin 'scraping' (veri kazıma) ile ilgili verdiği kararla bağlantılı. Veri kazıma, otomatik yazılım kullanılarak internetten bilgi toplama sürecidir. Geçen ayın başlarında, veri koruma denetçisi, internetten bilgi kazımanın neredeyse tüm durumlarda yasadışı olduğunu açıkladı. Bu durum, yapay zeka modelleri için de geçerli. Bu modeller genellikle haber siteleri ve sosyal medya dahil olmak üzere milyonlarca metinle eğitilir. Ne kadar çok metin yapay zeka modeline 'beslenirse', model o kadar akıllı hale gelir.

UWV, yazılımın AVG'ye uygun olmasından tedarikçinin sorumlu olduğunu belirtti. Kurum, bu konuda tedarikçi ile görüşmelerde bulunduğunu söyledi. Ancak aracın şu anda kullanılıp kullanılmadığı belirsizliğini koruyor.

Dikkat çeken bir nokta da yazılımın, başka bir değerlendirme süreci devam ederken satın alınmış olmasıdır: algoritmaların insan hakları üzerindeki etkileri için yapılan bir 'etki değerlendirmesi'. 2022'den beri, Hollanda'da devlet kurumlarının, algoritmaların vatandaşların verilerini işleme potansiyeli varsa, böyle bir etki değerlendirmesi yapması zorunludur. Bu değerlendirme, algoritmanın vatandaşların temel haklarına ne kadar zarar verebileceği ve algoritmanın amacının bu riske değip değmediği gibi konuları inceler.

©TURKİNFO.NL