عربي English Türkçe اردو فارسى
Logo
Son Haberler
TEKNOLOJİ

Akademik makaleleri ChatGPT'ye yazdırarak hile yapmayı konu alan akademik makaleyi ChatGPT'nin yazdığı ortaya çıktı

Fotoğraf (Reuters_Arşiv)
Fotoğraf (Reuters_Arşiv)
TT
TT

Akademik makaleleri ChatGPT'ye yazdırarak hile yapmayı konu alan akademik makaleyi ChatGPT'nin yazdığı ortaya çıktı

Fotoğraf (Reuters_Arşiv)
Fotoğraf (Reuters_Arşiv)

Birleşik Krallık'taki Plymouth Marjon Üniversitesi'nden bir grup profesör, ChatGPT gibi yapay zeka araçlarının akademik sahtecilik için kullanılmasını konu alan bir makale yayımladı.
"Sohbet ve Hile: ChatGPT Çağında Akademik Dürüstlüğün Sağlanması" başlıklı makale hakem onayından geçerek akademik eğitim dergisi Education and Teaching International'da yayımlandı.
Öte yandan makalenin arkasındaki ekip, bunun aslında bir çeşit deney olduğunu açıkladı.
Hakemlerin bilmeden onay verdiği bu makale de tamamen ChatGPT tarafından yazılmıştı.
Makalenin baş yazarı gibi davranan, Plymouth Marjon Üniversitesi'nde akademik uygulama direktörü Prof. Debby Cotton, "ChatGPT'nin çok yüksek düzeyde yazabildiğini göstermek istedik" dedi.
The Guardian'a konuşan Cotton, sözlerini "Bu bir silahlanma yarışı" diye dürdürdü:
"Teknoloji çok hızlı gelişiyor ve üniversitelerin onu geçmesi zor olacak."
Araştırma ekibi, makalenin onay almasından hemen sonra derginin editörlerini bilgilendirdi.
Toplamda 4 hakem editörün makaleyi incelediği ve hiçbirinin yapay zekadan şüphelenmediği aktarıldı. Yani editörler bahsi geçen makalenin üç akademisyen tarafından yazıldığına ikna olmuştu.
Son yılların en ses getiren yapay zeka araçlarından biri olan ChatGPT'nin ilk sürümü 2022'de yayımlanmıştı. Bu sohbet botunun arkasında ABD'li OpenAI firmasının geliştirdiği dil modeli GPT-3,5 vardı.
OpenAI kısa süre önce bir üst model olan GPT-4'ü duyurdu ve sohbet botuna entegre etti.
Dünyanın dört bir yanında öğrenciler, halihazırda ödevlerinde gizlice ChatGPT'yi kullanıyordu. Bu yüzden GPT-4'ün duyurulması akademi dünyasını daha da panikletti.
Birleşik Krallık'ın prestijli kurumlarından Imperial College London'da bilgisayar bilimcisi Thomas Lancaster, birçok üniversitenin "panik içinde" olduğunu söylüyor:
"Önümüzdeki tek şey yazılı bir belgeyse, bunun bir makine tarafından yazıldığını kanıtlamak inanılmaz derecede zor."
Akademisyenler bu yüzden performans ölçümü için daha farklı yöntemler geliştirilmesi gerektiğini düşünüyor.
Lancaster, "Yapay zekanın yazım standartları genellikle iyi" ifadelerini kullanıyor:
"İngilizce kullanımı ve gramer kalitesi de genellikle bir öğrenciden daha iyi."
Independent Türkçe, Futurism, The Guardian

Daha fazlasını oku

 
 
TEKNOLOJİ

Starship, Teksas'tan yeni bir test uçuşuyla fırlatıldı

Starship uzay aracının on birinci uçuşu Teksas'taki Starbase üssünden gerçekleşti (Reuters)
Starship uzay aracının on birinci uçuşu Teksas'taki Starbase üssünden gerçekleşti (Reuters)
TT
TT

Starship, Teksas'tan yeni bir test uçuşuyla fırlatıldı

Starship uzay aracının on birinci uçuşu Teksas'taki Starbase üssünden gerçekleşti (Reuters)
Starship uzay aracının on birinci uçuşu Teksas'taki Starbase üssünden gerçekleşti (Reuters)

Amerikalı milyarder Elon Musk'ın sahibi olduğu SpaceX, dün Teksas'taki Starbase'den Starship uzay aracının on birinci uçuşunu gerçekleştirdi. Bu test görevi, yeniden kullanılabilir uzay aracının uydu fırlatma ve nihayetinde insanları Ay ve Mars'a taşıma yeteneğini test etmeyi amaçlıyor.

Bir Süper Ağır itici roketin üzerine monte edilmiş Starship üst kademesinden oluşan uzay aracı, SpaceX'in Starbase'deki tesislerinden yaklaşık 23:20 GMT'de fırlatıldı. Starship üst kademesini uzaya gönderdikten sonra, Süper Ağır itici roket fırlatmadan yaklaşık 10 dakika sonra Meksika Körfezi'ne yumuşak bir iniş gerçekleştirdi.

SpaceX Başkanı Gwynne Shotwell, geçen ay Paris'te düzenlenen bir konferansta, "11. test uçuşunu başarılı kılmak için elimizden gelen her şeyi yaptık," dedi. "Ama bildiğiniz gibi, kimse ne olacağını bilmiyor, bu yüzden göreceğiz." Starship'in, 2027 yılına kadar NASA astronotlarını Ay'a indirmesi planlanıyor.

Roket, SpaceX'in mobil geniş bant internet sağlama hedefinde hayati rol oynayan daha büyük Starlink uydularının fırlatılması için büyük önem arzediyor. Bu uydular, Musk'ın Mars'a insan ve kargo gönderme vizyonunun temelini oluşturuyor.

TEKNOLOJİ

"Arka kapı" tehlikesi: 250 dosya ChatGPT'yi zehirlemeye yetiyor

(Unsplash)
(Unsplash)
TT
TT

"Arka kapı" tehlikesi: 250 dosya ChatGPT'yi zehirlemeye yetiyor

(Unsplash)
(Unsplash)

Anthony Cuthbertson Teknoloji Editör Yardımcısı @ADCuthbertson 

Araştırmacılar, OpenAI'ın ChatGPT'si ve Google'ın Gemini'ı gibi yapay zeka modellerinin, eğitim verilerine yalnızca küçük bir bozulmuş veri örneği eklenerek "zehirlenebileceği" uyarısını yaptı.

Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü, Alan Turing Enstitüsü ve yapay zeka firması Anthropic'in ortak yürüttüğü çalışma, 250 kadar az sayıda belgenin büyük dil modellerinin (LLM'ler) anlamsız metinler üretmesine yol açan bir "arka kapı" zafiyeti oluşturabileceğini ortaya koydu.

Bu açık özellikle endişe verici çünkü en popüler LLM'ler, kişisel internet siteleri ve blog yazıları da dahil internetteki herkese açık metinlerle önceden eğitiliyor. Bu da herhangi birinin yapay zeka modelinin eğitim verilerine dahil olabilecek içerik üretmesini mümkün kılıyor.

Anthropic, konuyu detaylandıran blog yazısında "Kötü niyetli aktörler, zehirlenme diye bilinen süreçte modelin istenmeyen veya tehlikeli davranışları öğrenmesini sağlamak için bu yayınlara belirli bir metin enjekte edebilir" dedi.

Arka kapı eklemek de bu saldırı türünden. Arka kapılar, modelden normalde gizli kalacak belirli bir davranışı tetikleyen özel ifadelerdir. Örneğin bir saldırgan komut isteminde olduğu gibi rasgele bir tetikleyici ifade içerdiğinde LLM'ler hassas verileri dışarı sızdıracak şekilde zehirlenebilir.

Bulgular yapay zeka güvenliğine dair endişelere yol açarken araştırmacılar, bunun teknolojinin hassas uygulamalarda kullanılma potansiyelini sınırladığını söylüyor.

Alan Turing Enstitüsü'nden Dr. Vasilios Mavroudis ve Dr. Chris Hicks, "Sonuçlarımız şaşırtıcı ve endişe vericiydi: Bir LLM'yi zehirlemek için gereken kötü niyetli belge sayısı (yaklaşık 250), modelin veya eğitim verilerinin boyutundan bağımsız olarak neredeyse sabitti" diye yazdı.

Başka bir deyişle, veri zehirleme saldırıları daha önce sanılandan daha uygulanabilir olabilir. Bir saldırgan için örneğin 250 zehirli Wikipedia makalesi yaratmak nispeten kolay olacaktır.

Riskler, "Poisoning attacks on LLMs require a near-constant number of poison samples" (LLM'lere yönelik zehirleme saldırıları neredeyse sabit sayıda zehir örneği gerektiriyor) başlıklı, hakem kontrolünden geçmemiş makalede detaylandırıldı.

The Independent yorum için Google ve OpenAI'la iletişime geçti.

Independent Türkçe, independent.co.uk/tech

TEKNOLOJİ

Elon Musk, Twitter davasında uzlaşmaya gitti

Fotoğraf: Reuters
Fotoğraf: Reuters
TT
TT

Elon Musk, Twitter davasında uzlaşmaya gitti

Fotoğraf: Reuters
Fotoğraf: Reuters

Teknoloji milyarderi Elon Musk, kıdem tazminatlarıyla ilgili anlaşmazlıkta kendisine 128 milyon dolardan fazla tazminat istemiyle dava açan işten çıkarılmış Twitter yöneticileriyle uzlaşmaya vardı.

Musk, Ekim 2022'de Twitter'ı satın aldığında CEO Parag Agrawal, Finans Direktörü Ned Segal, Hukuk Direktörü Vijaya Gadde ve Baş Hukuk Müşaviri Sean Edgett dahil çalışanlar arasında büyük bir tasfiye gerçekleştirmişti.

Bu eski yöneticiler Mart 2024'te, Musk'a ve yeniden markalaştırdığı X sosyal medya platformuna, kendilerine ödenmesi gerektiğine inandıkları kıdem tazminatını karşılamak üzere 128 milyon dolardan fazla toplu bir meblağ için dava açmıştı.

Geçen hafta teslim edilen ve ilk olarak çarşamba günü The Verge tarafından haberleştirilen mahkeme belgelerinde, Musk ve X'in davada "belirli koşulların yerine getirilmesini gerektiren" bir uzlaşmaya vardığı ortaya çıktı.

Belgelerde uzlaşma miktarına yer verilmedi. The Independent yorum için Musk ve davacıların avukatlarına ulaştı.

Musk, Nisan 2022'de Twitter'ı satın almayı kabul etmiş ancak birkaç ay sonra satın alma işleminden vazgeçeceğini söylemişti. Twitter, anlaşmayı tamamlamaya zorlamak için teknoloji devine dava açacak kadar ileri gitmişti.

Musk o sonbaharda 44 milyar dolarlık anlaşmayı tamamladıktan sonra Agrawal ve diğer üst düzey çalışanları hızla kovmuştu. Davaya göre yöneticiler Musk'ı, "özel bir öfke" duyduğu bir grubun kıdem tazminatları için daha fazla para ödemekten kaçınmaya çalışmakla suçladı.

Grup davada, "Musk Davacıların kıdem tazminatlarını ödemek istemediğine karar verdiği için, onları sebepsiz yere işten çıkardı, ardından sahte bir neden uydurdu ve çeşitli şirketlerinin çalışanlarını kararını onaylamaları için atadı" dedi.

asdfer
Musk, başlangıçta anlaşmadan caymaya çalıştıktan sonra Twitter'ı satın almayı kabul etmişti (AFP)

Dava, Walter Isaacson'ın Musk hakkındaki biyografisine atıfta bulunuyor. Biyografide teknoloji devinin Twitter anlaşmasını yöneticilerin hisse senedi opsiyonlarını hak etmelerini önlemek için bir gün erken sonuçlandırdığını söylüyor.

Isaacson, Musk'ın "bu gece sonuçlandırmakla yarın sabah yapmak arasında kurabiye kavanozundaki farkın 200 milyon dolar" olduğunu söylediğini aktarıyor.

Ağustosta Musk ve X'in işten çıkarılan yaklaşık 6 bin işçinin kıdem tazminatı konusunda 500 milyon dolarlık davada "prensipte" uzlaşmaya vardığı açıklanmıştı.

Reuters'ın haberine göre, Twitter'ın yan haklar programlarını denetleyen Courtney McMillian ve operasyon müdürü Ronald Cooper tarafından açılan davada, çoğu çalışanın temel ücretlerinin iki ayını ve işte geçirdikleri her tam yıl için bir haftalık ücret almaları beklenirken, en fazla bir aylık kıdem tazminatı teklif edildiği, işten çıkarılan pek çok işçiye ise hiçbir ek ödeme yapılmadığı öne sürülmüştü.

Independent Türkçe