Google, yapay zeka aracının tuhaf yanıtlarını savundu

Fotoğraf: Reuters
Fotoğraf: Reuters
TT

Google, yapay zeka aracının tuhaf yanıtlarını savundu

Fotoğraf: Reuters
Fotoğraf: Reuters

Google, kullanıcıların tuhaf yanıtlar aldığını bildirmesinin ardından "Yapay Zeka Özetleri" özelliğini savundu.

Klasik Google sonuçlarının yanında yer alması amaçlanan bu araç, sorguları yanıtlamak için yapay zeka kullanıyor. Sistem internetten veri alarak bunları yanıtlar oluşturmak için kullanırken, Google bunun kullanıcıların arama yapmasını kolaylaştıracağını iddia ediyor.

Ancak son günlerde Google kullanıcıları, sistemin kendilerini taş yemeye ve yapıştırıcıyla pizza yapmaya teşvik ettiğini ve Barack Obama'nın Müslüman olduğuna dair yanlış bir komplo teorisini yeniden dile getirdiğini bildiriyor.

Bu yanıtlardan bazılarının internetteki sonuçlardan alındığı anlaşılıyor. Örneğin bir pizza malzemesinin yapıştırıcıyla daha sakızımsı hale getirilebileceği önerisi Reddit'te paylaşılan bir espriden alınmış gibi görünüyor.

Google, bu örneklerin ender sorgulara ait olduğunu belirterek özelliğin genel olarak iyi çalıştığını iddia etti.

Bir sözcü, "Gördüğümüz örnekler genellikle çok nadir sorgular ve çoğu kişinin deneyimlerini temsil etmiyor" dedi.

Yapay Zeka Özetleri'nin büyük çoğunluğu, internette daha derine inebilecek bağlantılar içeren yüksek kaliteli bilgiler sağlıyor. Bu yeni deneyimi başlatmadan önce, yapay zeka özetlerinin yüksek kalite çıtamıza ulaştığından emin olmak için kapsamlı testler gerçekleştirdik. Politikalarımızın ihlal edildiği durumlarda harekete geçtik ve sistemlerimizi genel olarak iyileştirmeye devam ederken bu münferit örnekleri de kullanıyoruz.

Şirket, zararlı içeriklerin çıkmasını engelleme amacıyla sistemine koruyucu bariyerler eklediğini, sistemi bir değerlendirme sürecine ve teste tabi tuttuğunu ve yapay zeka özetlerinin mevcut politikalarına uyacak şekilde oluşturulduğunu açıkladı.

Google'a göre ayrıca gerçekçi yanıtlar vermede daha iyi hale gelmesi adında son zamanlarda sistem üzerine çalışılıyor.

Sorunların bir kısmının yanıtlara bilgi eklemek için kullanılan verilerden kaynaklandığı anlaşılıyor; espri veya başka içerikler barındırabilen bu veriler, bir yanıtta yeniden kullanıldığında yanıltıcı hale gelebiliyor. Ancak sorunun bir kısmı da Google'ın kullandıkları gibi geniş dil modellerinin "halüsinasyon görme" eğilimi olabilir.

Bu geniş dil modelleri gerçeklerden ziyade dilsel veriler kullanılarak eğitildiğinden, ikna edici bir şekilde dile getirilen fakat aslında yanlış bilgi içeren cevaplar verme eğiliminde. Bazı uzmanlar bu tür sorunların bu sistemlerin doğasında olduğunu öne sürüyor.

Independent Türkçe



WeTransfer'in yeni kuralları kullanıcıları kızdırdı

(Hans Lucas/AFP)
(Hans Lucas/AFP)
TT

WeTransfer'in yeni kuralları kullanıcıları kızdırdı

(Hans Lucas/AFP)
(Hans Lucas/AFP)

WeTransfer'in hüküm ve koşullarında yapılan değişiklik küresel çapta büyük öfkeye yol açtı.

Tartışmalı güncellemeleri geri çeken şirket, büyük tepkilerin "kafa karışıklığından" kaynaklandığını öne sürdü.

WeTransfer kullanıcıların yüklediği dosyaları internetten başkalarına göndermesine ve o kişilerin daha sonra dosyaları tekrar indirebilmesine olanak tanıyor.

Şartlarında yakın zamanda yapılan ve 8 Ağustos'ta yürürlüğe girmesi planlanan değişiklik, yüklenen dosyaların "makine öğrenimi modellerinin performansını artırmakta" kullanılabilmesini sağlayacak. Bu, WeTransfer'e dosyaları farklı şekillerde kullanma hakkı tanıyan ve şirketin hizmeti güçlendirmek için gerekli gördüğü kapsamlı kuralların bir parçasıydı.

Ancak bu değişiklikler, özellikle de özel dosyaların yapay zeka araçlarını eğitmek için kullanılabileceğine işaret edenler, sert tepkilere ve kullanıcıların alternatif platformlara yönelmesi çağrılarına neden oldu.

Şimdiyse WeTransfer, BBC'ye "WeTransfer üzerinden paylaşılan içeriği işlemek için makine öğrenimi ya da herhangi bir yapay zeka biçimi kullanmadığını ve herhangi bir üçüncü tarafa içerik ya da veri satmadığını" açıkladı.

Sözkonusu maddenin, "içerik denetimini iyileştirmek" ve zararlı içeriğin yayılmasını sınırlamak için olası yapay zeka kullanımına izin vermek adına eklendiği belirtildi.

Ancak site, "dilin anlaşılmasını kolaylaştırmak" için şartları değiştireceğini söyledi. BBC'ye "Bu bölüm müşterilerimizin kafasını karıştırmış olabilir" dendi.

WeTransfer artık kuralları değiştirdi, böylece site hâlâ yüklenen içeriği kullanma lisansına sahip olacak ancak yapay zekaya yapılan atıfı kaldıracak. Güncellenen değişiklikte artık "İçeriğinizi, Gizlilik ve Çerez Politikamıza uygun olarak Hizmeti işletmek, geliştirmek ve iyileştirmek amacıyla kullanmamız için bize telifsiz bir lisans veriyorsunuz" ifadesi yer alıyor.

Şirket, The Independent'ın yorum talebine dönüş yapmadı.

Sözkonusu değişiklikler 8 Ağustos'ta yürürlüğe girecek.

Independent Türkçe