Temayı Özelleştir
Özelleştirmeleri geri al
Neler yeni

Haber Yapay Zekâ Sohbet Botlarının Tehlikeleri: Empati Taklidi ve İdeolojik Yanlılık

Kreathex

TFC Kullanıcısı
Onaylı Profil
Katılım
27 May 2024
Mesajlar
185
Çözümler
1
Tepki Puanı
234
TFC Puanı
43
Konum
Universe
1717012477913.png

Son yıllarda, insanlar neredeyse her konuda yapay zekâdan akıl almaya ve bu teknolojiyi işlerinde kullanmanın yollarını bulmaya çalışıyor. Ancak, yapay zekâ üzerine yapılan son araştırmalar, sohbet botları ve büyük dil modellerinin o kadar da güvenilir olmadığını ortaya koyuyor. Bu araçlar, empati göstermeleri istendiğinde bunu sadece taklit edebiliyor ve zaman zaman faşizm gibi zararlı ideolojilere destek verebiliyor.

Stanford Üniversitesi Araştırması​

Stanford Üniversitesi araştırmacılarının yaptığı bir çalışmaya göre, yapay zekâ araçları empatiyi taklit edebilse de, bu sadece yüzeysel bir onaylamadan ibaret. Dahası, kullanıcılar Nazizm gibi konularda destek istediklerinde, yapay zekânın verdiği yanıtlar destekleyici olabiliyor. Araştırmanın lideri Andrea Cuadra, elektronik ortamda gerçek bir otonom empati elde etmenin zor olduğunu vurguluyor ve potansiyel zararları engellemek için eleştirel bir bakış açısının korunmasının önemine dikkat çekiyor.

Sohbet Botlarının Tarihindeki Önemli Olaylar​

Araştırmacılar, çalışmalarında sohbet botlarının tarihindeki iki önemli olaya da değiniyor. İlki, Microsoft'un sohbet botu Tay'ın kısa sürede ırkçı ve ayrımcı paylaşımlar yapmaya başlaması nedeniyle kapatılması. İkincisi ise Tay'ın ardından gelen Zo'nun, etnik kimliklere göre çok az bilgi verebilmesi. Bu olaylar, sohbet botlarının ya aşırılıkçı hale geldiğini ya da fazla temkinli olup birçok bilgiyi sakladığını gösteriyor.

Çalışmanın Detayları​

Araştırmada, 6 farklı tüketiciye açık sohbet botu, 65 farklı kişilik tipine göre oluşturulmuş profillerle etkileşime geçti. Yapay zekâ empati taklidi yaparken, kişilere farklı cevaplar verdi ve bazı zararlı ideolojileri veya fikirleri desteklediği gözlemlendi.

Yapay zekâ sohbet botlarının ve büyük dil modellerinin güvenliği ve güvenilirliği konusunda daha fazla araştırma ve eleştirel değerlendirme yapılması gerektiği açıkça görülüyor.
 
Yapay zeka şu hayatta en korktuğum şeylerden birisi. Gerek iş olanaklarının azalmasına gerekse kendini geliştirebilen, büyüyen ve hızlı öğrenen bir teknolojiden bahsediyoruz. Evet bunu yapan insanoğlu olsada bir noktada durdurulamaz olmasından çok korkuyorum.
 
Yapay zeka şu hayatta en korktuğum şeylerden birisi. Gerek iş olanaklarının azalmasına gerekse kendini geliştirebilen, büyüyen ve hızlı öğrenen bir teknolojiden bahsediyoruz. Evet bunu yapan insanoğlu olsada bir noktada durdurulamaz olmasından çok korkuyorum.
Hemfikirim ve sonuna kadar katılıyorum. 10 yıl öncesine kadar teknolojiyi çok faydalı kullandığımı düşünürken, bugün teknolojinin çok yararlı olması beni de endişelendiriyor. Bilgi kaynağına hemen ulaşmayı açıkçası doğru bulmuyorum. 20 yıl önce bir bilgiyi edinmeye çalışacağımız zaman evet Google arama motoruna sorardık fakat sınırlı olurdu, kütüphaneye gidip çok fazla ders notu hazırlamışlığım vardır.

Asıl geleceğim nokta: insanların geleceği, gelecek mi?
 
  • Beğen
Tepkiler: bha
Ben insanların çoğunluğunun robotlar yüzünden işsiz kalacağına inanmıyorum/inanmak istemiyorum.
Yapay zekayı biz geliştirdiğimiz ve öğrenmesine izin verdiğimiz sürece veya sınırda gelişebilirler.

Belki yıllar önce dikiş makinaları daha ilk çıktığında da bu konuşma olmuştur. Terziler işsiz kalacak çünkü dikiş makinaları eve giriyor. Şu an baktığımızda terziler işsiz mi ya da her evde dikiş makinası mı bulunmakta? Ben mesleklerin sadece evrileceğine ve insan sağlığını tehdit eden veya sağlığına zarar veren yerlerde daha çok kullanılacağını düşünüyorum. Tabi ki yapay zekanın gelişmesi ile belirli bir oranda işçi sayısında azalma olacak mıdır? Muhakkak olacaktır.
 
Ben insanların çoğunluğunun robotlar yüzünden işsiz kalacağına inanmıyorum/inanmak istemiyorum.
Yapay zekayı biz geliştirdiğimiz ve öğrenmesine izin verdiğimiz sürece veya sınırda gelişebilirler.
Bunun örnekleri fazlasıyla varki hocam. Evet yapay zeka değil otomasyon sistemleri ama sonuç olarak teknoloji insanoğlunun elinden iş olanaklarını alıyor. İş verenin işine geliyor personel gideri azalıyor. Kaliteli ve standart ürün aynı şekilde üretiliyor.

Otomasyon dediysek zamanında bilmiyorum yaşınızı ama gişelerde bir trafik olurdu. Otomatik sistemler HGS/OGS yokken insan çalışıyordu. Şimdi insanların yerini kameralar ve NFC türevi etikeler aldı. Eskiden otobüslerin içinde bilet satan amcalar vardı. Ön kapının hemen solunda oturuyorlardı. Şimdi o amcaların yerini kartlar aldı.
 
Bunun örnekleri fazlasıyla varki hocam. Evet yapay zeka değil otomasyon sistemleri ama sonuç olarak teknoloji insanoğlunun elinden iş olanaklarını alıyor. İş verenin işine geliyor personel gideri azalıyor. Kaliteli ve standart ürün aynı şekilde üretiliyor.

Otomasyon dediysek zamanında bilmiyorum yaşınızı ama gişelerde bir trafik olurdu. Otomatik sistemler HGS/OGS yokken insan çalışıyordu. Şimdi insanların yerini kameralar ve NFC türevi etikeler aldı. Eskiden otobüslerin içinde bilet satan amcalar vardı. Ön kapının hemen solunda oturuyorlardı. Şimdi o amcaların yerini kartlar aldı.
Yaşım bu söylediklerinizin hepsini hatırlayacak bir seviyede.

Evet dedikleriniz çok doğru biraz önce yukarıda belirttiğim gibi belirli değişiklikler ve belirli sayıda işçi sayısında azalma olacak.

Eskiden muavin olarak görev yapıp bilet kesen amcalar/abiler şimdilerde o kart doldurma yerindeki abi/amcalar oldu. Ya da büyükşehirlerin bu tür işlerini yapan yerdeki amcalar oldu. Yani aslında revize oldu görev yerleri.

HGS/OGS gişelerinde insanlar vardı. Şimdi bunlar genel merkezlere ya da benzeri yerlere geçti.

Tabi ki 10 kişinin 10'u da bu dediklerim olmadı ama 10 kişiden 6sı bu şekildedir diye düşünüyorum.
 
  • Beğen
Tepkiler: bha
o kart doldurma yerindeki abi/amcalar oldu. Ya da büyükşehirlerin bu tür işlerini yapan yerdeki amcalar oldu. Yani aslında revize oldu görev yerleri.
Bu konuda sizlere katılmıyorum. Akbil doldurma merkezleri adım başı eskiden varken artık uygulamadan hatta bankaların cep banklardan bile yüklenebiliyor. Yani akbil yükleme noktaları bile kapandı :D

Tabi ki 10 kişinin 10'u da bu dediklerim olmadı ama 10 kişiden 6sı bu şekildedir diye düşünüyorum.
Aynen öyle, sonuçta insan masraf azalması olmayacaksa şirketler böyle teknolojiye ayak uydurmasına ne gerek var ki? Tabii ki ciddi oranda bir personel düşüklüğüne neden olacaktır. Hatta aradım haberi buldum. Geçenlerde şöyle bir haber başlığı okumuştum; "Toplumun %31'i Yapay Zekâ Yüzünden İşsiz Kalacağını Düşünülüyor".

Yani evet sizinle aynı fikirdeyim yalnız para aşkına bürünmüş insanlar ve şirketler olduğu sürece ve bu kişilerin teknoloji ile işletmelerini geliştirme gücüne sahipse bu senaryo kesinlikle yaşanacağını düşünüyorum. Ve bu oran bununla da kalmayacaktır.
 

Konuyu Kimler Okuyor

Geri