Yapay zekânın ahlakı ve vicdanı Türk mühendise emanet!

Teknoloji devi Microsoft’ta yapay zekâ algoritmaları üzerine araştırmalar yapan Türk mühendis Ece Kamar, bir taraftan Beyaz Saray için rapor hazırlıyor, diğer taraftan Microsoft’un CEO’su Satya Nadella’ya danışmanlık veriyor. 34 yaşındaki Kamar’ın uzman olduğu konu ise yapay zekâların ahlaklı ve vicdanlı olması.

Yapay zekânın ahlakı ve vicdanı Türk mühendise emanet!

Teknoloji devi Microsoft’ta yapay zekâ algoritmaları üzerine araştırmalar yapan Türk mühendis Ece Kamar, bir taraftan Beyaz Saray için rapor hazırlıyor, diğer taraftan Microsoft’un CEO’su Satya Nadella’ya danışmanlık veriyor. 34 yaşındaki Kamar’ın uzman olduğu konu ise yapay zekâların ahlaklı ve vicdanlı olması.

01 Ocak 2018 Pazartesi 11:44
Yapay zekânın ahlakı ve vicdanı Türk mühendise emanet!

Her geçen gün daha fazla dijitalleşen bir dünyaya doğru olan yolculuğumuz hızlanarak devam ediyor. Bu yolculuğun en önemli mimarlarından biri ise yapay zekâ (artificial intelligence). Yazılım algoritmalarının insan yerine karar verdiği bu teknoloji hem büyük bir ilgiyle karşılandı hem de büyük tartışma yarattı. Tartışmaların kaynağında ise ‘Yapay zekâ algoritmalarının ahlakı ve vicdanın nasıl olacak?’ sorusu vardı. İşte bu soruya cevap arayan isimlerden biri de Türk mühendis Ece Kamar. Şu anda Microsoft’un ABD’deki merkezinde yapay zekâdan sorumlu olarak araştırmalarını gerçekleştiren Kamar bir taraftan bu konuda Beyaz Saray için rapor hazırlıyor diğer taratan Microsoft’un CEO’su Satya Nadella’ya danışmanlık veriyor.

SÜRÜCÜSÜZ OTO SEÇİMİ

Şu anda yapay zekâ hakkında en önemli konunun toplum üzerindeki etkisi olduğunu belirten Kamar şunları söyledi: “İnsanların hayatına dokunan kararların bilgisayarlar tarafından alındığı bir döneme giriyoruz. Aynı zamanda kritik zararların da verilebileceği bir dönem. Toplumdaki birçok kritik karar otomasyonla verilmeye başlandı. Mesela şu anda ABD’de hakimlere yapay zekâ algoritmalı yazılımlar veriliyor.

Biri hakim önüne çıkarıldığında kefaletle serbest mi bırakılacağının, yoksa tutuklu mu kalacağının kararı yapay zekâ tarafından veriyor. Yapay zekâ algoritmalarının kullanıldığı eğitimden insan kaynaklarına kadar insana dokunan birçok örneği var. Bir sürücüsüz (otonom) otomobil hata yaptığında insanlar ölebilecek. Mesela bir Tesla sürücüsü hayatını kaybetti. Bu nedenle bizim için çok önemli bir konu haline geldi. Yapay zekânın toplum üzerindeki etkisini ele alıp, insanların hayatına gerçekten faydalı olup, iyi değerler katması gerekiyor. Yani sürücüsüz bir otomobil kaza anında kime veya neye vuracağının seçimini yapabilmeli. Birini öldürmek yerine zarar görmeyecek bir cisme çarpabilecek, veya öldürme kaçınılmazsa tercih yapabilecek. 

EŞİTSİZLİK İÇİN ÇÖZÜM

Yapay zekânın tamamen veriden beslendiğinde iyi şeyler öğrenebileceği gibi kötü şeyler de öğrenebildiğini kaydeden Kamar, “Kötü şeyleri öğrenmesini nasıl engelleriz, eşitlik nasıl sağlarız? ABD’deki şirketlerin insan kaynaları departmanında kullandığı yapay zekâ algoritmalarının en büyük sorunu kadın yazılımcılar. Çünkü makineler verilerden öğrenim çıkarırken o pozisyonda daha önce çalışmış kişilere bakıyor. Yazılımcılar da kadınların oranı yüzde 10 olduğu için yapay zekânın insan kaynaklarına önerdiği kişiler de çoğunluk erkeklerin oluyor. Çünkü yapay zekânın kanıtı böyle. Bu tarz önyargıları yapay zekâ algoritmalarında çok fazla görmeye başladık. Yapay zekâ algoritmaları mükemmel çalışmadığında insanların doğrularını bu yazılımlara nasıl verebiliriz ve nasıl daha iyi eğitiriz diye çalışıyoruz” dedi.

MAKİNELER DAHA ADİL OLMALI

Yapay zekânın insana dokunduğu her uygulamada etik yargıların devreye girdiğini söyleyen Kamar şunları söyledi: “İyi niyetli bir yapay zekâ kullanıyorum diye bir konu yok. Örneğin; Los Angeles’taki hangi evsiz gençlere AIDS eğitimi verilmesi gerektiği üzerine bir yapay zekâ uygulaması geliştirildi. ‘Ne kadar iyi niyetli bir algoritma’ diye düşünebilirsiniz. Ancak işin arka planı öyle değil. Hangi gençler bu eğitimi alacak veya alamayacak. Oldukça eşit olmayan bir durum söz konusu olabilir.” Yapay zekânın etik ve vicdan sorununu çözmek için çalışmalar gerçekleştirdiğini belirten Kamar, “Şu anda Microsoft’ta bilgisayarları verilerle eğitirken verinin temizlenmesi üzerine çalışıyoruz. Bu tarz problemleri makinelere öğretmeye çalışıyoruz. Bazı koşulları öğreterek, makinelerin insanlar hakkında daha adil kararlar vermesini sağlıyoruz. Yapay zekânın öğrenme mekanizmasını değiştirip, değer yargılarıyla öğrenmesi üzerine çalışıyoruz. Aynı zamanda birçok problem verinin kötülüğünden kaynaklanıyor. Hiçbir veri mükemmel değil. Verinin içinde normalde bilgisayarın bilmesi gereken ama temsil edilmeyen taraflar var” diye konuştu.

İNSANLA MAKİNENİN GÜZELLİKLERİ BİRLEŞİYOR

Microsoft’un yaptığı çalışmalarda yapay zekânın insanların yerini almak yerine onların günlük yaşamını daha verimli ve daha mutlu hale getirmek olduğunu belirten Kamar, “Hiçbir insan mükemmel değil. Hepimizin hataları ve ön yargıları var. Makineler de aynı şekilde. Bizim amacımız insanların güzellikleriyle makinelerin güzelliklerini birleştirmek. Hiçbir zaman bir algoritmanın kendi kendine karar vermesinden heyecan duymuyorum. İnsanla makineleri birleştirebiliyorsa ve bunun sonucundan da daha iyi bir sonuç alınabiliyorsa işte o zaman dünya daha güzel olur. Geçen yıl göğüs kanseri olan kişiler incelendi. Metastas yapmış mı, yapmamış mı diye araştırıldı. Şu anda bir radyoloji profesörünün bu konudaki doğruluğu yüzde 3.5 civarında. Derin öğrenim yöntemi uygulandı. Yapılan bu çalışmanın hata oranı ise 7.5. Ancak bu algoritmayı insana araç verince ve beraber çalışması sağlanınca hata oranı yüzde 0.5’e düşüyor” dedi.

ALGORİTMİK YAKLAŞIM KISITLIYOR

Dijital dünyada yapay zekâ ile sunulan algoritmik seçeneklerin ticari kaygılarla tasarlandığını belirten Kamar, “Sistemler, yazılımlar sana şunları beğenmelisin diyor. Siz bu seçeneklerden seçince, buna göre öneriler oluşturuyor. Ancak oluşturulan bu öneriler oldukça kısıtlı ve bu kısıtlı seçenekler kırılamıyor. Amacımız bunu aşmak. Şu anda geliştirdiğimiz yapay zekâ örneklerine sadece veriler yerine insanların keşfetme duygusunu da aşılamaya çalışıyoruz” diye konuştu.

ECE KAMAR KİMDİR?

1983, İzmir doğumlu olan Ece Kamar, Bornova Anadolu ve İzmir Fen Lisesi’nde okudu. 2005 yılında Sabancı Üniversitesi Bilgisayar Bilimi ve Mühendisliği Bölümü’nden mezun oldu. Doktora derecesini Prof. Barbara Grosz ile çalışarak Harvard ÜniversitesiBilgisayar Bilimleri’nden aldı. Harvard’da Robert L. Wallace Ödül Bursuna ve Microsoft Araştırma Lisansüstü Araştırma Bursu ödülüne layık görülen Kamar, Harvard’daki tez çalışmasında etkili insan-bilgisayar takım çalışması için modeller ve algoritmalar üzerine odaklandı. Kamar, şu anda Redmond’ta bulunan Microsoft Araştırmaları bünyesinde Uyarlamalı Sistemler ve Etkileşim grubunda kıdemli araştırmacı olarak görev yapıyor. Ayrıca en saygın yapay zekâ yayınlarında, 40’tan fazla hakemli dergide yayını bulunan Kamar’ın araştırmalarından bazıları patent alarak Microsoft ürünlerinde kullanıldı.

Önerilen Haberler
Yorumlar
Avatar
Adınız
Yorum Gönder
Kalan Karakter:
Yorumunuz onaylanmak üzere yöneticiye iletilmiştir.×
Dikkat! Suç teşkil edecek, yasadışı, tehditkar, rahatsız edici, hakaret ve küfür içeren, aşağılayıcı, küçük düşürücü, kaba, müstehcen, ahlaka aykırı, kişilik haklarına zarar verici ya da benzeri niteliklerde içeriklerden doğan her türlü mali, hukuki, cezai, idari sorumluluk içeriği gönderen Üye/Üyeler’e aittir.