İnsanlığın Kaderini Etkileyecek Kararların Teknoloji Şirketleri Kontrolündeki Yapay Zekâ Sistemlerine Bırakılmasının Uygun Olup Olmadığının Değerlendirilmesi: Karar Ağacı Tabanlı Bir Analiz
Author :
Abstract
Yapay zekânın yükselişiyle birlikte insan kontrolündeki süreçlerin hızla dijitalleşmesi, pek çok soru ve sorunu da beraberinde getirmektedir. Bu sorulardan belki de en önemlisi, teknoloji şirketlerinin kontrolündeki yapay zekâ sistemlerinin, toplumun tümünü etkileyecek süreç ve kararlarda etkin kılınmasının doğru bir tercih olup olmadığıdır. Bu riske yakın zamanda Future of Life Institute (FLI) imzaya sunduğu açık bir mektupla dikkat çekmiştir.
Bu çalışmada, FLI’nın açık mektubunda dikkat çektiği “İnsanlığın kaderini etkileyecek kararların teknoloji şirketleri kontrolündeki yapay zekâ sistemlerine bırakılması uygun mudur?” sorusuna odaklanılmaktadır. Bu soruya isabetli bir yanıt oluşturabilmek için de hukuk, insan ve teknoloji etkileşimine dair düşüncelerin kurgusal olarak ele alındığı ve pek çok etik ikilem içeren bir karar ağacı tasarımı hazırlanarak, yaygın şekilde kullanılan yapay zekâ sohbet robotlarının insana dair önemli konulardaki tercihleri gözlemlenmektedir. Bu tercihler doğrultusunda yapay zekâ sistemlerinin insanlık için bir fırsat mı yoksa bir tehdit mi olduğu meselesi, hukuk, etik, ticari ilkeler ve sistemlerin performansları çerçevesinde eleştirel bir şekilde ele alınmaktadır.
Keywords
Abstract
The rapid digitisation of human-controlled processes with the rise of artificial intelligence raises many questions and challenges. The most significant among these questions is whether it is a prudent choice to empower artificial intelligence systems under the control of technology companies to influence processes and decisions that impact society. This concern was recently highlighted by the Future of Life Institute (FLI) through an open letter.
This study focuses on the question raised in the FLI's open letter: "Is it appropriate to leave decisions that will affect the destiny of humanity to artificial intelligence systems under the control of technology companies?". In order to formulate an accurate answer to this question, a decision tree design is prepared in which the thoughts on the interaction of law, human and technology are fictitiously handled, and many ethical dilemmas are prepared, and the preferences of widely used artificial intelligence chatbots on important human-related issues are observed. In line with these preferences, the issue of whether artificial intelligence systems are an opportunity or a threat to humanity is critically addressed within the framework of law, ethics, commercial principles, and the performance of the systems.