Robotlar İnsanlara Karşı
“Robotları Durduracak Algoritmalar Üretilmeli”
Yapay zekâ alanındaki yeni gelişmeler ünlü bilim kurgu yazarı Isaac Asimov’un eserlerinde geçen üç robot yasasını tekrar gündeme getirdi. Üç robot yasası şu şekilde yazılmıştı:
- Bir robot, bir insana zarar veremez ya da zarar görmesine seyirci kalamaz.
- Bir robot, birinci kuralla çelişmediği sürece bir insanın emirlerine uymak zorundadır.
- Bir robot, birinci ve ikinci kuralla çelişmediği sürece kendi varlığını korumakla mükelleftir.
Makinelerin gelişerek başlarına buyruk hareket etmesi ve insanlarla mücadeleye girişmeleri Matrix, Terminatör gibi bilim kurgu filmlerinde de çokça işlenmiş bir konu. Yapay zekânın birçok alanda kullanılmaya başlanması, bir bilim kurgu öğesi olan insanlarla robotların savaşının o kadar da uzak bir ihtimal olmadığını gösteriyor.
Bu çerçevede Google DeepMind ve Oxford İnsanlığın Geleceği Enstitüsü’nden araştırmacılar Laurent Orseau ve Stuart Armstrong robotların güvenli bir şekilde durdurulmasını sağlayacak bir altyapı geliştirdiklerini duyurdu.
Önerilen Yazı » İnsan Beynini Robota Yüklemek
Yapay Zekâda Belirsizlik Konferansı’nda yayımlanan makalede insanlarla birlikte çalışan robotların istenmeyen davranışlar sergilediklerinde durdurulmasını sağlayan bir mekanizma olması gerektiği belirtiliyor. Normal şartlarda “kırmızı bir düğmeye” basarak durdurulabilecek robot, uzun vadede öğrendikleri sayesinde bu düğmenin kendi çıkarına olmadığını “anlayıp” onu devre dışı bırakabilir ve durdurulamaz hale gelebilir. Bunu engellemek için yapay zekânın öğrenmesini yani insanlar tarafından durdurulduğu durumlardan ders çıkarmasını engelleyecek bir algoritma öneriliyor.
