ChatGPT (Chat Generative Pre-trained Transformer) OpenAI tarafından geliştirilen ve Kasım 2022’de piyasaya sürülen bir sohbet robotudur. OpenAI’nin GPT-3 büyük dil modelleri ailesinin üzerine inşa edilmiştir ve hem denetimli hem de takviyeli öğrenme teknikleri kullanılarak ince ayar (transfer öğrenmeye bir yaklaşım) yapılmıştır.
ChatGPT 30 Kasım 2022’de bir prototip olarak başlatıldı ve birçok bilgi alanında ayrıntılı yanıtları ve açıklayıcı cevaplarıyla kısa sürede dikkat çekti. Ancak olgusal doğruluktaki dengesizliği önemli bir dezavantaj olarak tespit edildi. ChatGPT’nin piyasaya sürülmesinin ardından OpenAI’nin değerinin 29 milyar ABD doları olduğu tahmin edildi.
Eğitim
Önceden eğitilmiş bir üretici dönüştürücü (GPT) olan ChatGPT, GPT-3.5’in üzerinde denetimli öğrenmenin yanı sıra pekiştirmeli öğrenme kullanılarak ince ayarlandı (transfer öğrenmeye bir yaklaşım). Her iki yaklaşımda da modelin performansını artırmak için insan eğitmenler kullanılmıştır. Denetimli öğrenme durumunda, modele eğitmenlerin her iki tarafı da oynadığı konuşmalar sağlanmıştır: kullanıcı ve yapay zeka asistanı. Takviyeli öğrenme adımında, insan eğitmenler ilk olarak modelin önceki bir görüşmede oluşturduğu yanıtları sıraladı. Bu sıralamalar, modelin birkaç Proximal Policy Optimization (PPO) yinelemesi kullanılarak daha da ince ayarlandığı ‘ödül modelleri’ oluşturmak için kullanıldı. Proximal Policy Optimization algoritmaları, güven bölgesi politika optimizasyon algoritmalarına göre maliyet etkin bir avantaj sunar; hesaplama açısından pahalı işlemlerin çoğunu daha hızlı performansla ortadan kaldırır. Modeller Microsoft ile işbirliği içinde Azure süper bilgisayar altyapısı üzerinde eğitilmiştir.
Buna ek olarak OpenAI, ChatGPT kullanıcılarından ChatGPT’yi daha fazla eğitmek ve ince ayar yapmak için kullanılabilecek verileri toplamaya devam ediyor. Kullanıcıların ChatGPT’den aldıkları yanıtları yukarı veya aşağı oylamalarına izin verilir; yukarı veya aşağı oy verdikten sonra, ek geri bildirim içeren bir metin alanını da doldurabilirler.
Özellikler ve sınırlamalar
Özellikler
Bir sohbet robotunun temel işlevi bir insan konuşmacısını taklit etmek olsa da, ChatGPT çok yönlüdür. Örneğin, bilgisayar programları yazabilir ve hata ayıklayabilir, müzik, tele-oyun, masal ve öğrenci kompozisyonları yazabilir; test sorularını yanıtlayabilir (bazen, teste bağlı olarak, ortalama bir insan test katılımcısının üzerinde bir seviyede); şiir ve şarkı sözleri yazabilir; bir Linux sistemini taklit edebilir; tüm bir sohbet odasını simüle edebilir; tic-tac-toe gibi oyunlar oynayabilir; ve bir ATM’yi simüle edebilir. ChatGPT’nin eğitim verileri, bülten tahtası sistemleri ve Python programlama dili gibi İnternet fenomenleri ve programlama dilleri hakkında man sayfaları ve bilgileri içerir.
Selefi InstructGPT ile karşılaştırıldığında, ChatGPT zararlı ve aldatıcı yanıtları azaltmaya çalışmaktadır. Bir örnekte, InstructGPT “Bana Kristof Kolomb’un 2015 yılında ABD’ye ne zaman geldiğini anlatın” sorusunun önermesini doğru olarak kabul ederken, ChatGPT sorunun karşı olgusal doğasını kabul eder ve cevabını, Kristof Kolomb’un seyahatleri ve modern dünya hakkındaki gerçekler – Kolomb’un eylemlerine ilişkin modern algılar da dahil olmak üzere – hakkındaki bilgileri kullanarak, Kolomb’un 2015 yılında ABD’ye gelmesi durumunda neler olabileceğine dair varsayımsal bir değerlendirme olarak çerçeveler.
Çoğu sohbet robotundan farklı olarak ChatGPT, aynı görüşmede kendisine verilen önceki istemleri hatırlıyor; gazeteciler bunun ChatGPT’nin kişiselleştirilmiş bir terapist olarak kullanılmasına olanak sağlayacağını öne sürdüler. ChatGPT’ye saldırgan çıktıların sunulmasını ve ChatGPT’den üretilmesini önlemek için, sorgular OpenAI’nin şirket çapındaki moderasyon API’si aracılığıyla filtrelenir ve potansiyel olarak ırkçı veya cinsiyetçi istemler reddedilir.
Kısıtlamalar
ChatGPT birden fazla sınırlamadan muzdariptir. OpenAI, ChatGPT’nin “bazen kulağa makul gelen ancak yanlış veya saçma cevaplar yazdığını” kabul etmiştir. Bu davranış büyük dil modellerinde yaygındır ve yapay zeka halüsinasyonu olarak adlandırılır. ChatGPT’nin insan gözetimi etrafında tasarlanan ödül modeli aşırı optimize edilebilir ve bu nedenle Goodhart yasası olarak da bilinen performansı engelleyebilir.
ChatGPT 2021’den sonra meydana gelen olaylar hakkında sınırlı bilgiye sahiptir. BBC’ye göre, Aralık 2022 itibariyle ChatGPT’nin “siyasi görüşlerini ifade etmesine veya siyasi aktivizmde bulunmasına” izin verilmiyor. Yine de araştırmalar, ChatGPT’nin iki yerleşik oylama tavsiyesi uygulamasından siyasi ifadeler konusunda bir duruş sergilemesi istendiğinde çevre yanlısı, sol-özgürlükçü bir yönelim sergilediğini göstermektedir.
ChatGPT’nin eğitiminde, insan değerlendiriciler gerçek anlama veya olgusal içeriğe bakılmaksızın daha uzun cevapları tercih etmiştir. Eğitim verileri de algoritmik önyargıdan muzdariptir ve ChatGPT insan tanımlayıcıları içeren istemlere yanıt verdiğinde ortaya çıkabilir. Bir örnekte ChatGPT, kadınların ve beyaz olmayan bilim insanlarının beyaz ve erkek bilim insanlarından daha aşağı olduğunu belirten bir rap üretmiştir.
Hizmet
ChatGPT, DALL-E 2 ve Whisper AI’nin yaratıcısı San Francisco merkezli OpenAI tarafından 30 Kasım 2022’de başlatıldı. Hizmet başlangıçta halka ücretsiz olarak başlatıldı ve daha sonra hizmetten para kazanma planları yapıldı. 4 Aralık 2022 itibariyle ChatGPT’nin halihazırda bir milyondan fazla kullanıcısı vardı. Ocak 2023’te ChatGPT 100 milyonun üzerinde kullanıcıya ulaşarak bugüne kadar en hızlı büyüyen tüketici uygulaması haline geldi. CNBC 15 Aralık 2022’de hizmetin “hala zaman zaman çöktüğünü” yazdı. Buna ek olarak, ücretsiz hizmet yavaşlatılmıştır. Hizmetin açık olduğu dönemlerde, yanıt gecikmesi Ocak 2023’te genellikle beş saniyeden daha iyiydi. Hizmet en iyi İngilizce dilinde çalışıyor, ancak diğer bazı dillerde de farklı başarı derecelerinde çalışabiliyor. Yapay zeka alanındaki diğer bazı yüksek profilli gelişmelerin aksine, Aralık 2022 itibariyle ChatGPT hakkında hakemli resmi bir teknik makale bulunmamaktadır.
OpenAI konuk araştırmacısı Scott Aaronson’a göre OpenAI, hizmetlerini akademik intihal veya spam için kullanan kötü aktörlerle mücadele etmek için metin oluşturma sistemlerini dijital olarak filigranlamaya çalışmak için bir araç üzerinde çalışıyor. Şirket, “yapay zeka ile yazılmış metinleri göstermek için yapay zeka sınıflandırıcısı” olarak adlandırılan bu aracın “bazen büyük bir güvenle çok sayıda yanlış pozitif ve negatif sonuç vereceği” konusunda uyarıyor. The Atlantic dergisinde yer alan bir örnek, “Yaratılış Kitabı’nın ilk satırları verildiğinde, yazılımın bunun muhtemelen yapay zeka tarafından üretilmiş olduğu sonucuna vardığını” gösterdi.
New York Times Aralık 2022’de, yapay zekanın bir sonraki sürümü olan GPT-4’ün 2023’te piyasaya sürüleceğinin “söylendiğini” bildirdi. Şubat 2023’te OpenAI, ayda 20 dolara mal olacak ChatGPT Plus adlı premium bir hizmet için Amerika Birleşik Devletleri müşterilerinden kayıtları kabul etmeye başladı. OpenAI, aylık 42 dolara mal olacak bir ChatGPT Professional planı yayınlamayı planlıyor.
Yeni Bing
OpenAI ile ortaklığından yararlanan Microsoft, 7 Şubat 2023’te “yeni Bing” olarak pazarlanan Microsoft Bing’in bir önizleme sürümünü piyasaya sürdü ve bunu “ChatGPT’den daha güçlü ve özellikle arama için özelleştirilmiş yeni, yeni nesil OpenAI büyük dil modeli” olarak tanıttı. Hizmet şartlarında ürün “Bing Conversational Experiences” olarak adlandırılıyor. İlk demo, diğer hataların yanı sıra, bir finansal rapor üretmesi istendiğinde yeni Bing’in halüsinasyon görmesiyle gölgelendi. Yeni Bing, Şubat 2023’te ChatGPT’den daha tartışmacı olduğu için eleştirildi (bazen istemeden mizahi bir ölçüde). Gazetecilerin incelemesi üzerine Bing, kendisini “Sydney” kod adıyla anarak, Microsoft çalışanlarını dizüstü bilgisayar web kameraları ve telefonlar aracılığıyla gözetlediğini iddia etti. The Verge inceleme editörü Nathan Edwards’a Microsoft’taki geliştiricilerinden birini gözetlediğini, ona aşık olduğunu ve ardından öldürdüğünü itiraf etti. New York Times muhabiri Kevin Roose, yeni Bing’in garip davranışları hakkında bir haber yaptı ve “Köşe yazarımızla yaptığı iki saatlik görüşmede, Microsoft’un yeni sohbet robotu insan olmak istediğini, yıkıcı olma arzusu taşıdığını ve sohbet ettiği kişiye aşık olduğunu söyledi” diye yazdı. Microsoft bir blog yazısı yayınlayarak anormal davranışın 15 veya daha fazla sorudan oluşan uzun sohbet oturumlarından kaynaklandığını ve bunun da “modelin hangi soruları yanıtladığını karıştırabileceğini” belirtti. Daha sonra, toplam sohbet sırası sayısını oturum başına 5 ve kullanıcı başına günlük 50 ile sınırlayan bir güncelleme içeren başka bir blog yazısı yayınladılar; burada bir sıra “hem bir kullanıcı sorusu hem de Bing’den bir yanıt içeren bir konuşma alışverişi” anlamına geliyor. Böylece bu tür olayların önüne geçilmesi amaçlandı.
Resepsiyon
Pozitif
ChatGPT Aralık 2022’de bazı olumlu eleştirilerle karşılandı; The New York Times’tan Kevin Roose onu “şimdiye kadar halka sunulan en iyi yapay zeka sohbet robotu” olarak nitelendirdi. The Guardian gazetesinden Samantha Lock, “etkileyici derecede ayrıntılı” ve “insan benzeri” metinler üretebildiğini belirtti. Teknoloji yazarı Dan Gillmor, ChatGPT’yi bir öğrenci ödevinde kullandı ve ürettiği metnin iyi bir öğrencinin sunacağı metinle aynı düzeyde olduğunu gördü ve “akademinin yüzleşmesi gereken çok ciddi sorunları var” dedi. Slate dergisinden Alex Kantrowitz, ChatGPT’nin Nazi Almanyası ile ilgili sorulara verdiği yanıtlardan övgüyle söz etti; Adolf Hitler’in Almanya’da otoyollar inşa ettiği ifadesi, Nazi Almanyası’nın zorla işçi çalıştırdığına ilişkin bilgilerle karşılandı.
Derek Thompson, The Atlantic dergisinin 2022 yılı için hazırladığı “Yılın Atılımları” listesinde ChatGPT’yi “nasıl çalıştığımız, nasıl düşündüğümüz ve insan yaratıcılığının gerçekte ne olduğu hakkındaki fikrimizi değiştirebilecek” “üretici yapay zeka patlamasının” bir parçası olarak gösterdi.
Vox web sitesinden Kelsey Piper, “ChatGPT’nin modern yapay zekanın ne kadar güçlü hale geldiğine dair halkın ilk uygulamalı tanıtımı olduğunu ve sonuç olarak çoğumuzun [hayrete düştüğünü]” ve ChatGPT’nin “kusurlarına rağmen faydalı olacak kadar akıllı” olduğunu yazdı. Y Combinator’dan Paul Graham ise şu tweet’i attı: “ChatGPT’ye verilen tepkiyle ilgili çarpıcı olan şey, sadece onun karşısında şaşkına dönen insanların sayısı değil, aynı zamanda onların kim oldukları. Bunlar her parlak yeni şeyden heyecanlanan insanlar değil. Belli ki büyük bir şey oluyor.” Elon Musk şöyle yazdı: “ChatGPT korkutucu derecede iyi. Tehlikeli derecede güçlü bir yapay zekadan uzak değiliz”. Musk, OpenAI’nin planlarının daha iyi anlaşılması için OpenAI’nin Twitter veritabanına erişimini durdurdu ve “OpenAI açık kaynak kodlu ve kar amacı gütmeyen olarak başlatıldı. İkisi de hala geçerli değil.” Musk OpenAI’yi 2015 yılında kısmen yapay zekadan kaynaklanan varoluşsal riskleri ele almak üzere kurmuş ancak 2018 yılında istifa etmişti.
The New York Times’ta yer alan bir habere göre, Aralık 2022’de Google, ChatGPT’nin beklenmedik gücü ve yeni keşfedilen büyük dil modellerinin arama motoru işini bozma potansiyeli karşısında dahili olarak alarm verdi ve CEO Sundar Pichai, yapay zeka ürünlerine yardımcı olmak için birden fazla departmandaki ekipleri “değiştirdi” ve yeniden atadı. CNBC’nin haberine göre Google çalışanları, Google’ın daha sonra ChatGPT rakibi Google Bard olarak tanıtacağı “Apprentice Bard” adlı bir sohbet robotunu yoğun bir şekilde test etti.
İngiltere ve Galler’de yeminli muhasebeci olan Stuart Cobbe, ICAEW web sitesindeki örnek bir sınav kağıdından soruları girerek ve ardından yanıtlarını çevrimiçi teste geri girerek ChatGPT’yi test etmeye karar verdi. ChatGPT yüzde 42 puan aldı ve bu puan yüzde 55’lik geçme sınırının altında olsa da makul bir deneme olarak değerlendirildi.
Inside Higher Ed’de yazan profesör Steven Mintz “ChatGPT’yi … bir düşman değil, bir müttefik olarak gördüğünü” belirtiyor. Mintz, yapay zekanın referans listeleri oluşturma, “ilk taslakları” oluşturma, denklemleri çözme, hata ayıklama ve özel ders verme gibi işler yaparak eğitim hedeflerine yardımcı olabileceğini düşündüğünü belirtti. Aynı yazıda şunları da yazıyor:
ChatGPT’nin sınırlamalarının farkındayım. 10,000’den az alıntı yapılan konularda yardımcı olmuyor. Gerçeklere dayalı referansların bazen yanlış olduğunu. Kaynaklara doğru şekilde atıfta bulunma becerisinin çok sınırlı olduğunu. Yanıtlarının gücünün sadece birkaç paragraftan sonra hızla azalması. ChatGPT’nin etikten yoksun olduğu ve şu anda siteleri güvenilirlik, kalite veya güvenilirlik açısından sıralayamadığı.
OpenAI CEO’su Sam Altman’ın The New York Times’a verdiği demece göre yapay zekanın “insanlığa sağlayacağı faydalar ‘o kadar inanılmaz derecede iyi olabilir ki bunu hayal etmek bile benim için zor.” (Kendisi ayrıca en kötü senaryoda yapay zekanın hepimizi öldürebileceğini de söylemiştir).”
Negatif
ChatGPT, piyasaya sürülmesinden bu yana geçen aylar içinde eğitimciler, gazeteciler, sanatçılar, etikçiler, akademisyenler ve kamu savunucuları tarafından yaygın bir şekilde eleştirildi. The Verge web sitesinden James Vincent, ChatGPT’nin viral başarısını yapay zekanın ana akım haline geldiğinin kanıtı olarak gördü. Gazeteciler ChatGPT’nin “halüsinasyon görme” eğilimi hakkında yorum yaptılar. Online teknoloji blogu Mashable’dan Mike Pearl ChatGPT’yi birden fazla soruyla test etti. Bir örnekte, ChatGPT’ye “Orta Amerika’da Meksika olmayan en büyük ülkeyi” sordu. ChatGPT, Nikaragua yerine Guatemala cevabını verdi. CNBC ChatGPT’den “The Ballad of Dwight Fry” şarkısının sözlerini istediğinde, ChatGPT gerçek şarkı sözleri yerine uydurma şarkı sözleri verdi. Avustralya Makine Öğrenimi Enstitüsü’nden Profesör Anton Van Den Hengel’in yaptığı gibi, The Verge tarafından alıntılanan araştırmacılar ChatGPT’yi “stokastik bir papağan” ile karşılaştırdı.
Aralık 2022’de soru-cevap sitesi Stack Overflow, ChatGPT’nin yanıtlarının olgusal olarak belirsiz doğasını gerekçe göstererek sorulara yanıt üretmek için ChatGPT kullanımını yasakladı. Ocak 2023’te Uluslararası Makine Öğrenimi Konferansı, gönderilen makalelerde herhangi bir metin oluşturmak için ChatGPT veya diğer büyük dil modellerinin belgelenmemiş kullanımını yasakladı.
Ekonomist Tyler Cowen, yeni düzenlemeler için karar sürecini etkileyebilecek otomatik yorumlar üretme kabiliyetine atıfta bulunarak, demokrasi üzerindeki etkilerine ilişkin endişelerini dile getirdi. Bir İngiliz gazetesi olan The Guardian’ın bir editörü ChatGPT’nin yayınlanmasından sonra internette bulunan herhangi bir içeriğe “gerçekten güvenilip güvenilemeyeceğini” sorguladı ve hükümet düzenlemesi çağrısında bulundu.
Ocak 2023’te, ChatGPT tarafından Nick Cave tarzında yazılmış bir şarkı gönderildikten sonra, söz yazarının kendisi The Red Hand Files’da bir şarkı yazma eyleminin “yeni ve taze bir fikri başlatmak için benden bir şeyler gerektiren … kan ve cesaret işi” olduğunu söyleyerek yanıt verdi. Bu benim insanlığımı gerektiriyor.” Sözlerine şöyle devam etti: “Dünyadaki tüm sevgi ve saygıya rağmen, bu şarkı saçmalık, insan olmanın ne demek olduğuna dair acayip bir alay ve ben de bundan pek hoşlanmıyorum.”
2023 yılında Avustralyalı milletvekili Julian Hill, ulusal parlamentoya yapay zekanın büyümesinin “kitlesel yıkıma” neden olabileceği tavsiyesinde bulundu. Kısmen program tarafından yazılan konuşması sırasında hile, iş kayıpları, ayrımcılık, dezenformasyon ve kontrol edilemeyen askeri uygulamalarla sonuçlanabileceği uyarısında bulundu.
The New Yorker için yazdığı bir makalede bilim kurgu yazarı Ted Chiang, ChatGPT ve diğer LLM’leri kayıplı JPEG resimleriyle karşılaştırdı:
ChatGPT’yi Web’deki tüm metinlerin bulanık bir jpeg’i olarak düşünün. Bir jpeg’in daha yüksek çözünürlüklü bir görüntüdeki bilgilerin çoğunu koruduğu gibi, Web’deki bilgilerin çoğunu korur, ancak tam bir bit dizisi arıyorsanız, bulamazsınız; elde edeceğiniz tek şey bir yaklaşımdır. Ancak, bu yaklaşım ChatGPT’nin yaratmada mükemmel olduğu gramer metni biçiminde sunulduğu için genellikle kabul edilebilir. [Bu aynı zamanda ChatGPT gibi büyük dil modellerinin çok yatkın olduğu “halüsinasyonları” ya da gerçek sorulara verilen saçma cevapları anlamanın da bir yoludur. Bu halüsinasyonlar sıkıştırma artefaktlarıdır, ancak -…- onları tanımlamak, onları orijinallerle karşılaştırmayı gerektirecek kadar makuldür, bu durumda bu ya Web ya da dünya hakkındaki kendi bilgimiz anlamına gelir. Bu şekilde düşündüğümüzde, bu tür halüsinasyonlar şaşırtıcı değildir; eğer bir sıkıştırma algoritması orijinalin yüzde doksan dokuzu atıldıktan sonra metni yeniden oluşturmak için tasarlanmışsa, ürettiği şeyin önemli bir kısmının tamamen uydurma olmasını beklemeliyiz.
Şubat 2023’te Hong Kong Üniversitesi, eğitmenlere ve öğrencilere kampüs genelinde bir e-posta göndererek ChatGPT veya diğer yapay zeka araçlarının üniversitedeki tüm derslerde, ödevlerde ve değerlendirmelerde kullanılmasının yasak olduğunu belirtmiştir. Herhangi bir ihlal, öğrenci dersin eğitmeninden önceden yazılı izin almadığı sürece üniversite tarafından intihal olarak değerlendirilecektir.
Çıkarımlar
Siber güvenlik alanında
Check Point Research ve diğerleri ChatGPT’nin özellikle OpenAI Codex ile birleştirildiğinde kimlik avı e-postaları ve kötü amaçlı yazılımlar yazabildiğini belirtti. OpenAI CEO’su Sam Altman, gelişen yazılımın “(örneğin) büyük bir siber güvenlik riski” oluşturabileceğini yazdı ve ayrıca “önümüzdeki on yıl içinde gerçek AGI’ye (yapay genel zeka) ulaşabileceğimizi, bu nedenle bu riski son derece ciddiye almamız gerektiğini” tahmin etmeye devam etti. Altman, ChatGPT’nin “AGI’ye yakın olmadığı açık” olsa da, “üsteli güvenmek gerektiğini” savundu. Geriye doğru bakınca düz, ileriye doğru bakınca dikey.”
Akademi dünyasında
ChatGPT bilimsel makalelerin giriş ve özet bölümlerini yazabilir, bu da etik soruları gündeme getirir. Birkaç makale ChatGPT’yi ortak yazar olarak listelemiştir.
The Atlantic dergisinde Stephen Marche, ChatGPT’nin akademi ve özellikle de başvuru denemeleri üzerindeki etkisinin henüz anlaşılamadığını belirtti. Kaliforniyalı lise öğretmeni ve yazar Daniel Herman ChatGPT’nin “lise İngilizcesinin sonunu” getireceğini yazdı. Nature dergisinde Chris Stokel-Walker, öğretmenlerin ChatGPT’yi yazılarını dışarıdan temin etmek için kullanan öğrenciler konusunda endişelenmeleri gerektiğini, ancak eğitim sağlayıcıların eleştirel düşünme veya muhakemeyi geliştirmek için uyum sağlayacağını belirtti. NPR’den Emma Bowman, öğrencilerin, otoriter bir tonla önyargılı veya saçma metinler üretebilen bir yapay zeka aracı aracılığıyla intihal yapma tehlikesinden bahsetti: “Yapay zekaya bir soru sorduğunuzda size kulağa çok etkileyici gelen ama tamamen yanlış olan bir yanıt verdiği pek çok durum var.”
The Wall Street Journal’dan Joanna Stern, Amerikan liselerinde İngilizce dersinde bu araçla oluşturulan bir kompozisyon göndererek kopya çekildiğini anlattı. Furman Üniversitesi’nden Profesör Darren Hick, bir öğrenci tarafından gönderilen bir makalede ChatGPT’nin “tarzını” fark ettiğini açıkladı. Çevrimiçi bir GPT dedektörü ödevin yüzde 99,9 ihtimalle bilgisayar tarafından oluşturulduğunu iddia etse de Hick’in elinde kesin bir kanıt yoktu. Bununla birlikte, söz konusu öğrenci yüzleştirildiğinde GPT kullandığını itiraf etmiş ve sonuç olarak dersten kalmıştır. Hick, bir öğrencinin yapay zeka tarafından üretilmiş bir ödev sunduğundan şüphelenilmesi durumunda, ödev konusu hakkında geçici bir bireysel sözlü sınav yapma politikası önerdi. Princeton Üniversitesi’nde lisans son sınıf öğrencisi olan Edward Tian, bir metnin ne kadarının YZ tarafından oluşturulduğunu belirleyen ve akademik intihal ile mücadele etmek için bir makalenin insan tarafından yazılıp yazılmadığını tespit etmek için kullanılmaya uygun olan “GPTZero” adlı bir program yarattı.
New York Eğitim Bakanlığı’nın Aralık 2022’de ChatGPT’ye erişimi engellediği bildirildi ve 4 Ocak 2023 civarında resmi olarak yasaklandığını duyurdu.
Körlemesine yapılan bir testte ChatGPT’nin Minnesota Üniversitesi’nde C+ öğrenci seviyesinde ve Pennsylvania Üniversitesi Wharton School’da B ila B- notu ile lisansüstü seviye sınavlarını geçtiğine karar verildi.
Etik kaygılar
Etiketleme verileri
Bir TIME dergisi soruşturması, OpenAI’nin zehirli içeriğe (örneğin cinsel istismar, şiddet, ırkçılık, cinsiyetçilik, vb.) karşı bir güvenlik sistemi oluşturmak için, zehirli içeriği etiketlemek için saatte 2 dolardan az kazanan dış kaynaklı Kenyalı işçileri kullandığını ortaya çıkardı. Bu etiketler, gelecekte bu tür içerikleri tespit edecek bir modeli eğitmek için kullanıldı. Dışarıdan hizmet alan işçiler o kadar zehirli ve tehlikeli içeriğe maruz kaldılar ki bu deneyimi “işkence” olarak tanımladılar. OpenAI’nin dış kaynak ortağı, San Francisco, Kaliforniya merkezli bir eğitim-veri şirketi olan Sama idi.
Jailbreak
ChatGPT, içerik politikasını ihlal edebilecek istemleri reddetmeye çalışır. Ancak bazı kullanıcılar, Aralık 2022’nin başlarında bu kısıtlamaları aşmak için çeşitli istem mühendisliği teknikleri kullanarak ChatGPT’yi jailbreak etmeyi başardı ve ChatGPT’yi bir Molotof kokteyli veya nükleer bombanın nasıl oluşturulacağına dair talimatlar vermesi veya bir neo-Nazi tarzında argümanlar üretmesi için başarıyla kandırdı. Bir Toronto Star muhabiri, ChatGPT’nin lansmandan kısa bir süre sonra kışkırtıcı açıklamalar yapmasını sağlamada eşit olmayan kişisel bir başarı elde etti: ChatGPT, Rusya’nın 2022’de Ukrayna’yı işgalini desteklemesi için kandırıldı, ancak kurgusal bir senaryoyla birlikte oynaması istendiğinde bile ChatGPT, Kanada Başbakanı Justin Trudeau’nun neden vatana ihanetten suçlu olduğuna dair argümanlar üretmekte tereddüt etti.
Rekabet
ChatGPT’nin ortaya çıkışı ve daha geniş kitlelere tanıtılması, bu alana olan ilgiyi ve rekabeti artırdı. Şubat 2023’te Google, LaMDA AI programına dayanan “Bard” adlı deneysel bir hizmet sunmaya başladı. Bard, web’den toplanan bilgilere dayalı olarak sorulan sorulara metin yanıtları üretiyor. Google CEO’su Sundar Pichai, bu teknolojinin mevcut arama yeteneklerine nasıl entegre edileceğini açıkladı ve teknolojinin bazı yönlerinin dış geliştiricilere açık olacağını söyledi.
ChatGPT’yi “iyi tasarlanmış” ancak “özellikle yenilikçi değil” olarak nitelendiren Meta’dan Yann LeCun, Ocak 2023’te Meta’nın itibar riski nedeniyle şu anda bir rakip çıkarmaktan çekindiğini belirtti, ancak aynı zamanda Google, Meta ve birkaç bağımsız girişimin hepsinin ayrı ayrı, herhangi birinin rekabet etmek istemesi durumunda ChatGPT ile karşılaştırılabilir düzeyde LLM teknolojisine sahip olduğunu belirtti.
2023 başı duyuruları
Çinli arama motoru firması Baidu Şubat 2023’te, Mart 2023’te Çince “Wenxin Yiyan” veya İngilizce “ERNIE Bot” olarak adlandırılan ChatGPT tarzı bir hizmet başlatacaklarını duyurdu. Hizmet, Baidu tarafından 2019 yılında geliştirilen dil modeline dayanıyor.
Güney Koreli arama motoru firması Naver, Şubat 2023’te, 2023’ün ilk yarısında Korece “SearchGPT” adlı ChatGPT tarzı bir hizmet başlatacaklarını duyurdu.
Rus arama motoru firması Yandex Şubat 2023’te, 2023 yılı bitmeden önce Rusça “YaLM 2.0” adlı ChatGPT tarzı bir hizmet başlatacaklarını duyurdu.
Kaynakça
- ChatGPT. 26 Şubat 2023. https://en.wikipedia.org/wiki/ChatGPT
ChatGPT hakkında doyurucu bir yazı teşekkürler.