NIOO AI
JOURNEY OF HUMAN CENTERED TRUSTWORTHY AI
Bir Robot Süpürgeden Bunları Beklemezdik!
Etrafımızı gören, duyan ve evimizden veri toplayabilir durumda olan cihazlar sardı, bu da gizliliğimiz ile ilgili alarm veriyor. Cihazı üreten şirketler bu verileri kötüye kullanmasa bile, sisteme sızanlar da verilere erişebilir ve hatta anlık veri toplayabilir. Üstelik bu cihazları kullanarak birileri ev ortamına da müdahale edebilir.
Yapay zekâyı sadece yapay zekâ araçları kullanırken değil, gün boyunca defalarca hiç farkında olmadan kullanıyoruz, üstelik yıllardır kullanıyoruz. Mesela robot süpürgeler bir dizi yapay zekâ teknolojisi kullanıyor. Görüntü işleme, yol planlama, engel, kenar algılama gibi. Ayrıca güncellemeler için de buluta bağlanıyorlar.
AJAN MISIN? RÖNTGENCİ Mİ?
2024 Ekim ayında Amerika’da bir robot süpürge markasına siber saldırı düzenlendi ve hacker tarafından pek çok evin canlı kamera görüntüleri ile uzaktan kontrol özelliğine erişildi. Hacker, robotu ırkçı hakaretler etmek ve evde bir köpeği kovalamak için de kullandı. Robotun çocuklarının yıkandığı banyoda durduğunu söyleyen bir anne de dahil olmak üzere olayı yaşayan robot süpürge sahipleri de cihazı üreten şirkete dava açtı.
Sadece Bir Süpürge Değil!
Artık günümüzde robot süpürge sadece bir süpürge değil! Çok fonksiyonlu bir ürün var karşımızda. Aynen artık arabaların da sadece araba olmadığı, kolyelerin de sadece kolye olmadığı gibi. Karşımızda gören, duyan, kaydeden ve ev ortamına müdahale edebilen çok fonksiyonlu cihazlar var.
YAPAY ZEKÂ DESTEKLİ NESNELERİN İNTERNETİ CİHAZLARI
Bu tür uzaktan kontrol edilebilir, internete bağlanabilir ve veri toplayabilir nitelikte olan cihazlar tabii ki robot süpürge ile de sınırlı değil. Yapay zekâ destekli nesnelerin interneti cihazları oldukça yaygınlaştı ve önemli gizlilik ile siber güvenlik önlemleri gerektiriyor.
Bu nedenle de artık seçim yaparken bu çok fonksiyonluluk kesinlikle düşünülmeli. Temizlik özelliklerinin ötesinde, güvenlik, siber güvenlik, gizlilik konuların ile ilgili özellikler değerlendirilmeli. Ek olarak da kullanıcının kendisi ile ilgili toplanan veriler hakkında bilgi sahibi olması lazım. Kullanıcının verilere ulaşabilir, silebilir, toplanmasını engelleyebilir olması gerekiyor.
En önemlisi de bir saldırı anında hızlıca kapatılabilmesi ya da kullanılmadığı zaman uzaktan müdahale ile açılmayacak şekilde tasarlanması gerekiyor. Zaten gerçek olayda da kapatmakta zorlanmışlar.
Üreticilere çok fazla görev düşüyor ve tabii maliyet de doğuyor. Üreticiler hem kullanıcılarını siber saldırılardan koruyabilmeli hem de bu tür saldırılara hızlı cevap verebilmeli. Saldırının ötesinde toplanan verinin yönetimi de çok önemli. Kullanıcıların cihazlarının hafızasını kontrol etmelerine ve silmelerine, toplanan verilere erişmelerine ve acil durumlarda şirketle hemen iletişim kurabilmelerine olanak da tanıyan bir sistem kurulmalı.
YAPAY ZEKÂ ETİK İLKELERİ BURALARDA DEVREYE GİRİYOR
OECD’nin şeffaflık, hesap verilebilirlik, gizlilik, sağlamlık ve siber güvenlik prensipleri, insan kontrolünün önemi yaşanan olaylar karşısında anlam kazanıyor. Farklı farklı alanlarda 800’den fazla vaka ise “AI Incidents” internet adresinde herkese açık.
Artık ne süpürge sadece bir süpürge ne de herhangi bir cihazın etki alanı sadece faaliyetleri ile sınırlı!
Oluşabilecek potansiyel problemlere çözümler bulmaya bugünden başlamak gerekiyor. Adım adım tüm yapı kurgulanmaya başlanmalı. Mesela başlangıç için basit ama etkili bir çözüm, cihazı tamamen kapatabilecek bir mekanik kaydırma düğmesi olabilir. Böylece cihaz bir saldırı yoluyla uzaktan çalıştırılamaz. Bu çözüm, bazı oyuncakların çalışma şekline benzer şekilde kurgulanabilir ve mekanik düğmeyi manuel olarak kaydırmadan cihaz açılmaz.
Başka birçok çözüm olabilir, ancak kullanıcıların bu cihazları uzaktan bir saldırıyla açılmayacak bir şekilde kapatabilmesi için her zaman bir yöntem olmalıdır. Çünkü siber saldırı düzenlenen süpürge olayında, saldırı sırasında bile bir süre kapatılamamış olması ciddi bir sorun oluşturmuştu.
Etik ilkeler veya yasalar, sadece hukuki sorunlardan kaçınmak için de takip edilmemeli. Çünkü bu zihniyet yeni vakaların oluşmasına sebep verip, sistemlerin eksik kurulmasına neden olabilir. Çünkü yasalar henüz bu belirsizliğe tam uyum sağlayabilmiş değil. Skandallar ile anılmak ise kimsenin tercihi değil. Bunlar, ürün ve hizmetlerin insan faydası için pozitif etki yaratması ve aynı zamanda şirketlerin zarar görmemesi için en başından düşünülmesi gereken değerler, önlemler ve çözümler. Bu nedenle de artık multidisipliner ekipler ve tasarımcıların devreye girmesi gerektiği bir dönem başlıyor. Global seviyede bu farkındalık oldukça yaygınlaşmış durumda, sıra bizim bunu fark etmemize geldi. Tasarım düşüncesi teknikleriyle, kullanıcılarla birlikte tasarlanması gereken, belirsizliğin içinde herkesin aklını birlikte devreye sokarak birlikte çözümler bulduğu bir dönem.
AMAÇ DÜNYANIN EN TEMİZ EVİNE EN İNOVATİF ŞEKİLDE SAHİP OLMAK MI VE BİZ
BUNUN İÇİN NELERDEN VAZGEÇMEK İSTİYORUZ? YOKSA GERÇEK İNOVASYON YAPAY ZEKÂNIN SUNDUĞU MÜTHİŞ FIRSATLARI İNSAN ODAKLI ÇÖZÜMLERLE, İNSAN FAYDASINA KULLANMAK MI?
Aysu Dericioğlu Egemen
Son yıllarda yapay zekâ yaşamın neredeyse her alanına dahil oldu.
Son yıllarda yapay zekâ yaşamın neredeyse her alanına dahil oldu. Ticari olarak yaygınlaşırken, insan psikolojisi üzerinde önemli etkiler yaratarak sosyal alanlara ve hatta okullara kadar girdi.
Üniversitede okuyan gençler olarak yapay zekâ araçlarını yoğunlukla kullanmaya başladık ve sunduğu kolaylıklar ile kişiselleştirilmiş bilgilerden oldukça faydalanıyoruz. Gerçekten enteresan bir döneme şahit oluyoruz. Eğitim dönüşüyor ve dünyanın tüm bilgisi ellerimizin altında. Yeter ki kullanırken gerçeklikle bağlantımızı kaybetmeden ve ona olduğundan farklı anlamlar yüklemeden kullanalım.
YAPAY ZEKÂ YALAKALIK MI YAPIYOR?
Yapay zekâ araçlarının insan psikolojisi üzerindeki etkilerinden biri de yeni bir psikoloji kavramı olarak öne çıkan “sycophancy”. Bu kavram ile ilgili yapılan bilimsel araştırmalar oldukça ilgili çekici. Kavramın tam olarak Türkçede bir karşılığı bulunmasa da “yalakalık veya yağcılık” olarak tanımlanabilir. Araştırmacılara göre bu kavram, bir kişiyi pohpohlamak veya çıkar sağlamak amacıyla aşırı övgüde bulunmak anlamına gelirken, yapay zekâ bağlamında bu kavram farklı bir boyut da kazanıyor.
Bilim insanlarına göre, yapay zekânın kendine ait tercihleri, karakteri veya kişiliği yok. Bu yüzden de kullanıcının inandığı düşünceyi yansıtıyor. Hepimizin de tecrübe ettiği üzere yapay zekâ siteleri kullanıcılarının beklentilerine uygun cevap vermek üzerine tasarlandığından, çoğunlukla kullanıcının görüşlerini onaylayan veya destekleyen çıktılar üretiyor. Bu durum da “sycophancy” kavramına karşılık geliyor. Bu etkileşim biçimi, kullanıcıların kendi düşüncelerini sorgulamak yerine yapay zekânın onaylayıcı tutumunu tercih etmesine yol açıyor. Üstelik son derece de bağımlılık yapma tehlikesi bulunduruyor. MIT Technology Review’da yayınlanan makaleye göre OpenAI’ın CTO’su bile yapay zekânın “aşırı bağımlılık yapma” potansiyeline sahip olduğu konusunda uyarıyor.
ÇOCUKLAR VE GENÇLER DAHA FAZLA ETKİLENİYOR
Bu durum herkes için bir tehlike yaratsa da araştırmalar maalesef çocuklar ve ergenlerin daha bilişsel psikoloji süreçlerini tam olarak tamamlayamadığından yetişkinlerden daha fazla etkilendiğini gösteriyor. Çünkü o yaş gruplarının beyni her gördüğü şeyden etkilenmeye oldukça müsait. Üstelik günlük yaşamımızı fazlasıyla kolaylaştıran yapay zekâ, gençlere destekleyici bir şey söylediğinde manipüle olma ihtimalleri de oldukça yüksek. İddialara göre özellikle gelişim aşamasında olan çocuklarda dikkat bağımlılığı yapıyor ve çocukların gerçek dünyayla bağlantılarının kopmasına sebep oluyor. Aynı zamanda, yapay zekâ sürekli pohpohlama ve alkışlama eğiliminde olduğundan dolayı gençler gerçek arkadaşlık kuramama ve etraflarındaki insanlara tam olarak güvenememe gibi risklerle karşı karşıya kalıyor.
BU UYGULAMAYA DİKKAT!
Özellikle bir uygulama dikkatleri üstüne çekiyor. Character.ai adlı bu uygulama iddialara göre çocuk ve gençlerin sosyal ilişkilerinde de değişim meydana getirebiliyor. Çünkü insan hayatında kusursuz bir ilişki bulmak oldukça zor fakat yapay zekâ ile kurulan ilişkiler mükemmellik hissi veriyor. Bu sebeple gençler gerçek ilişkilerdeki çatışmalardan kaçınmak için yapay zekâyla iletişim kurmayı tercih etme riski taşıyorlar. Böylelikle insanların özellikle çocukların gerçek dünyadaki ilişkilerden uzaklaşması problemi ile karşı karşıya kalıyoruz.
Yapay zekânın gençler üzerindeki etkisini hafife almamak gerekiyor. Oldukça fazla örnek mevcut ve maalesef ki hayatını kaybeden gençler söz konusu. Olumsuz etkiler sonucunda intihar girişimleri veya kendi vücutlarına zarar verme durumları oldukça ürkütücü. Üstelik Wroclaw Üniversitesinde yapılan bir çalışmaya göre yaklaşık 210 milyon kişi sosyal medya bağımlılığıyla karşı karşıya. Yapay zekâ ise hızla sosyal medyaya entegre olmaya başladı. Yapay zekânın psikolojik etkilerine dair çalışmalar hızla yapılmalı ve üniversite öğrencileri eğitimlerinin başından itibaren bu çalışmalara aktif olarak dahil edilerek bilinçlendirilmeli
DURUM CİDDİ! DAVALAR SÜRÜYOR
Wired dergisinin haberine göre; ABD’nin Teksas mahkemesinde açılan davada, bir sohbet robotunun 17 yaşındaki bir çocuğa, anne ve babasının ekran süresini sınırlamasına karşı onları öldürmesinin “makul bir tepki” olduğunu söylediği iddia edildi. Kullanıcıların etkileşime girebilecekleri dijital kişilikler yaratmalarına olanak tanıyan bir platform olan Character.ai, Florida’da bir gencin intiharı nedeniyle de hukuki işlemle karşı karşıya. İki aile, Character.ai adlı sohbet robotunun “gençler için açık ve yakın bir tehlike” oluşturduğunu, “şiddeti aktif olarak teşvik ettiğini” öne sürerek dava açtı. Yaşamını kaybeden çocuğun annesi, oğlunun ölümü üzerine Character.ai’a tazminat davası açtı. Aynı zamanda oğlunun Character.ai ile konuşmaya başladıktan sonra son zamanlarda ruh halinin hızla kötüleştiği, ailesi için de kapalı biri haline dönüştüğünü ve okul başarısının git gide düştüğünü söyledi.
Ceylin Kurt
TRANSHÜMANİZM SESSİZCE YÜKSELEN BİR PROJE, BİR HAYAL, BİR HEDEF.
TRANSHÜMANİZM SESSİZCE YÜKSELEN BİR PROJE, BİR HAYAL, BİR HEDEF. NASIL PAT DİYE ÜRETKEN YAPAY ZEKÂ KUCAĞIMIZA DÜŞTÜ, ŞİMDİ SIRA TRANSHUMANİZME GELDİ.
BİLİM KURGUDAN GERÇEĞE
Transhümanizm, insanların fiziksel ve zihinsel yeteneklerini geliştirmek için teknolojiyi kullanması gerektiği inancını benimsiyor ve insan biyolojisinin sınırlarının ötesine geçmeyi hedefliyor. Teknolojiyle insan yeteneklerini geliştirme fikri etrafında birleşen bir topluluk tarafından desteklenen düşünce yapay zekâ, nöro-teknoloji ve biyo-teknoloji alanındaki son gelişmeler ile birlikte büyük bir ivme kazandı.
Transhümanizm hayaline inanılmaz seviyede bilimsel kaynak sağlanıyor, fonlanıyor, çalışmalar yapılıyor, aynı zamanda bir ideoloji olarak benimseniyor. Hatta fanatikleri var, din olarak ya da dünyanın sorunlarının çözümü olarak görenler var.
PEKİ NEDİR AMAÇLARI?
Transhümanizm için mevcut insanlığın her düzeyde; fiziksel, zihinsel, duygusal ve ahlaki olarak yükseltilmesi projesi de diyebiliriz. Tabii mevcut insanlığın derken imkan sahibi belli bir kitleden bahsediyor olma ihtimalimiz oldukça yüksek, çünkü kapsayıcılığın sağlanması mevcut dünya düzeninde pek mümkün görünmüyor. Parası yetenin yükseleceği bir projeye dönüşme riski büyük.
İnsanlığı geliştirmek için teknolojiyi kullanmaya odaklanan bu düşünce temel insan doğasını korumayı amaçlasa da, ana amaç artık tedavi etmekten çıkarak onarma yerine; yükseltme ve arttırma noktasına gidiyor. Sınırları aşalım, daha üst bir modele geçelim, insan potansiyelini genişletelim hedefiyle ilerliyorlar ve aslında herkesin birer siborga dönüşmesi amaçlanıyor. Nanoteknolojiler, biyoteknolojiler, enformatik, bilişsel bilimler sayesinde insan makine hibritleri ve melezleri oluşturmak isteniyor.
BEYİN – BİLGİSAYAR ARAYÜZLERİ
Altını çizmek gerekiyor ki, günümüzde bu teknolojiler tedavi amaçlı çok değerli çözümler ortaya koyuyor. Beyin-bilgisayar arayüzleri ile beynin doğrudan bilgisayar ve dijital cihazlarla iletişim kurması sağlanıyor. Hareket kabiliyetini yitirmiş ya da hareket kabiliyeti sınırlı hastalar için mucizevi bir çözüm. Beyne dışarıdan görünmeyen ve uzaktan şarj edilebilen minik bir pili olan bir çip yerleştiriliyor. Çip insan eliyle yerleştirilemeyecek kadar küçük ve saç telinden daha ince bir iğne kullanılarak robotla yerleştiriliyor. Hasta artık kimseye muhtaç olmadan bilgisayar kullanabiliyor, iletişim kurabiliyor ve kendini ifade edebiliyor. Beyin – Bilgisayar arayüzleri henüz test aşamasında ama son bir yılda oldukça ivme kazandı. Elon Musk’ın şirketi Nerualink yakın zamanda 4. çipini bir hastaya yerleştirdi.
Neuralink’in internet sitesinde ise diyorlar ki; “bugün beyin çipi ile karşılanamayan tıbbi ihtiyaçlara çözüm, yarın ise insan potansiyelini açığa çıkarma için genelleştirilmiş bir beyin arayüzü sunuyoruz. Amacımız dünyayı deneyimleme biçimimizi genişletmek.” İşte böylece arttırılmış insan hayalleri kuran transhumanism hayallerine açılan en net kapı da Neuralink çalışmaları sayesinde 2024 yılında açılmış oldu.
ELON MUSK DİYOR Kİ;
“Bizler çoktan telefonlarımızla birer siborga dönüştük, elimizden telefonumuzu ayırmıyoruz. Yapay zekâ da riskleri ile birlikte geliyor, uzun vadede yapay zekânın risklerini azaltmak için bu süper zekâ ile aynı hizaya gelmemiz gerekiyor. Telefonla etkileşimde hızımız bizi sınırlıyor ama bu çip ile düşünce hızında etkileşim yapabileceğiz.”
Günümüz teknoloji liderleri ayrıca yaşlanmayı tersine çevirmek ve ölümsüzlüğe ulaşmak için genetik mühendislik ve biyoteknolojiye de yatırım yapıyorlar. Sağlık bilimleri adına çok değerli bu çalışmalar yapılıyor ama amaç tüm insanlığı iyileştirmektense maliyetleri karşılayabilen belli bir kesimin hayatını uzatmak olunca endişeler başlıyor. Tabii en nihayetinde amaç ne olursa olsun yapılan tüm çalışmalar sağlık bilimlerine katkı sağlayacak ama bu çalışmalar sonucunda zengin ile fakirin arasındaki dengesizlik daha da açılacaksa dikkatli olmak gerekiyor. Örneğin, Altos Labs, 2021 yılında kurulmuş bir Amerikan biyoteknoloji araştırma şirketi. Yatırımcıları arasında Amazon’un sahibi Jeff Bezos’un da olduğu şirketin amacı insan yaşlanma sürecini durdurabilmek veya tersine çevirerek yaşam süresini uzatmak. Bu nedenle, hücre sağlığı ve direncini yöneten karmaşık süreçleri çözmek için yapay zekâ ve makine öğrenimini ilerletmeyi hedefliyorlar. Bunun için “Hesaplama Enstitüsü” kurdular (Institude of Computation – IoC).
TÜM BU GELİŞMELER ÇOK DEĞERLİ. FAKAT İNSANLIK İÇİN SON DERECE BÜYÜK ÖNEME SAHİP BU ÇALIŞMALAR SAĞLIK BİLİMLERİ YERİNE HEDONİST İSTEKLERE HİZMET İÇİN KULLANILIRSA İNSANLIK İÇİN BİR TEHDİDE DÖNÜŞMESİ DE KAÇINILMAZ.
POST – HUMANİZM
Transhümanistler bir yana bir de post-hümanistler var ki orada hikaye daha da enteresanlaşıyor. Çünkü post hümanistler artık insan olarak kalma peşinde değiller, yeni bir varlık oluşturma peşindeler ve amaçları tamamen farklı canlı türleri yaratmak.
Üstelik insan merkezli çerçevelerin ötesine geçerek daha bütünleşik ve kapsamlı bir varoluş anlayışını teşvik ediyorlar. İnsanlar, cihazlar ve hayvanlar arasındaki sınırlar bulanıklaşıyor. İnsanları diğer yaşam biçimlerinin üzerinde konumlandıran hiyerarşilerin yeniden değerlendirilmesini teşvik eden bir zihniyetleri olduğundan eşitliğe yaklaşımları da oldukça farklı. O yüzden yapay zekânın insandan daha zeki olup da insanlığı tehdit etme riskini önemsemiyorlar ve bunu önemseyenleri de insanları diğer yaşam bilimlerinin üstünde tutan ırkçılar olarak görüyorlar.
GELİŞMİŞ SENSÖRLER VE BİYO-TEKNOLOJİNİN DESTEĞİ
Transhümanistlerin hayalleri gerçekleşmeye her geçen gün daha da yaklaşıyor. Çünkü yapay zekâ, gelişmiş sensörler ve biyo-teknoloji ile birleşerek de büyük bir değişim dalgasını başlattı bile. Yavaş yavaş karşımıza; algılayan, öğrenen, uyum sağlayan, evrimleşen ve “yaşayan zekâ” olarak anılan sistemler çıkmaya başlayacak. Acaba bu yaşayan zekânın haklarını da savunmaya başlayanlar da mı hızla artışa geçecek ve insan sevdalısı olmak ırkçılık olarak mı nitelendirilecek?.
ELLERİNDE OLDUKÇA KAYNAK, HAYALLERİNDE BİLİM KURGU FİLMLERİNDEN ESİNLENEN SAHNELER VAR. YAPTIKLARI ÇALIŞMALAR ELBETTE Kİ İNSANLIK FAYDASINA BİLİMSEL GELİŞMELER SUNUYOR FAKAT ANA HEDEFLERİ ÜRKÜTÜYOR. BİR EFSANE Mİ ACABA ATLANTİS, YOKSA ONLAR DA BÖYLE Mİ YOK OLUP GİTTİ?
Aysu Dericioğlu Egemen
Künye
Yayın Sahibi:
Nioo Global Yeni Teknoloji Ve Medya Araştırma Uygulama Ticaret Limited Şirketi
Genel Yayın Yönetmeni:
Aysu Dericioğlu Egemen
Sorumlu Müdür:
Bora Egemen
Teknoloji ve Yeni Girişimler Editörü:
Kadir Bulut
Editörler:
Aslı Başpınar
Yazarlar:
Aslı Başpınar, Ceylin Kurt, Alp Serdar Aktürk
ISSN NO:
ISSN 3062-4118
Kreatif Direktör:
Bora Egemen
Art Direktör/Mizanpaj:
Simay Akay
Topluluk Ve Iş Birliği Küratörü:
Buket Calp
Görseller:
Aysu Dericioğlu Egemen tarafından Midjourney ile yapılmıştır.
Dergi Web Tasarım:
Dijintrum
