Yapay zekâ yazım dedektörleri, makine tarafından üretilen metni tanımlamak için tasarlanmıştı; ancak bunun yerine, öğrencilerin yazma biçimlerini ve yapay zekâyı kullanma şekillerini sessizce yeniden şekillendiriyorlar. Sınıflarda ve kampüslerde, anlaşılması güç dil modelleri ve olasılıksal kalıp eşleştirmeye dayalı araçlar, en yetenekli yazarlardan bazılarını üsluplarını yumuşatmaya, dedektörleri incelemeye ve hatta işaretlenmekten kaçınmak için savunma amaçlı olarak üretken yapay zekâyı benimsemeye itiyor.
Bir örnekte, okul tarafından verilen bir Chromebook'a önceden yüklenmiş bir yapay zeka denetleyicisi, Kurt Vonnegut'un Harrison Bergeron hakkındaki bir öğrencinin denemesini, sadece "devoid" kelimesini içerdiği için "yüzde 18 yapay zeka tarafından yazılmış" olarak işaretledi .
Öğrenci "devoid" kelimesini "without" ile değiştirdiğinde, altta yatan fikirler ve yapı değişmeden kalmasına rağmen puan sıfıra düştü. Bu davranış, yazarlığın anlamlı bir şekilde anlaşılmasından ziyade kelime seçimi ve dağılımı gibi istatistiksel sinyallere dayanan mevcut tespit sistemlerinin tipik bir özelliğidir.
Sonuç olarak, öğrenciler daha zengin bir kelime dağarcığının veya daha kendinden emin bir üslubun sınıflandırıcılar için şüpheli görünebileceğini ve çıkarılması gerekebileceğini öğreniyorlar.
Yazma eğitmeni Dadland Maye, üniversite öğrencilerinin, derslerinde kullanılan algılama sistemlerini tetikleyebilecek bazı stilistik özellikler (örneğin uzun çizgi) hakkında bilgi edindikten sonra üretken yapay zeka araçlarıyla denemeler yapmaya başladıklarını anlatıyor .
Her zaman kendi ödevlerini yazan bir öğrenci, yazma işini dışarıya yaptırmak için değil, taslaklarının yapay zeka tarafından oluşturulduğu şeklinde işaretlenme olasılığını test etmek ve buna göre ayarlamalar yapmak için taslaklarını yapay zeka araçlarından geçirmeye başladı. Başka bir öğrenci ise farklı bir derste haksız yere suçlandıktan sonra, gelecekteki yanlış pozitif sonuçları önceden tahmin edebilmek ve önleyebilmek için çeşitli yapay zeka hizmetlerine abone oldu ve tespit tekniklerini ayrıntılı olarak inceledi.
Teknik olarak, teşvikler ekonomistlerin Kobra Etkisi olarak adlandırdığı şeyle örtüşüyor: bir davranışı azaltmayı amaçlayan bir politika, yanlış sinyalleri ödüllendirerek o davranışı teşvik etmeye yol açıyor. Yapay zeka dedektörleri, bir metnin büyük bir dil modeli tarafından üretilme olasılığını, belirteç sıklığı, sözdizimsel kalıplar ve cümle uzunluğu ve yapısındaki varyasyon olan "patlama" gibi özelliklere dayanarak tahmin ediyor.
Öğrenciler, belirli işaretlerin puanları yükseltebileceğini, daha genel veya yavan görünen metinlerin ise genellikle geçer not aldığını çabucak öğrenirler. Özellikle notlar veya disiplin cezası söz konusu olduğunda, mantıklı yanıt ya daha yavan bir şekilde yazmak ya da dedektörlerin tespit etmek üzere tasarlandığı aynı modellerin, istatistiksel arka plana karışan "güvenli" ifadeler oluşturmasına izin vermektir.
Maye, bu dinamiğin en çok New York Şehir Üniversitesi gibi açık erişimli kurumlarda hissedildiğini, burada öğrencilerin genellikle haftada 20 ila 40 saat çalıştığını, birden fazla dil konuştuğunu ve dersler arasında farklılık gösteren bir yapay zeka politikaları yığınıyla karşı karşıya kaldığını belirtiyor.
Öğrencilerden biri Maye'ye, her satırı orijinal olmasına rağmen, dedektörlerin makine tarafından üretilmiş olarak etiketlediği cümleleri yeniden ifade etmek için saatler harcadıklarını söyledi; bir diğeri ise kısaca, "Sürekli düzeltiyorum. Çok zaman alıyor." dedi.
Bu sistemlerin yazma konusunda öğrettikleri, uzun vadede en önemli etkileri olabilir. Öğrenciler, üslubun aleyhlerine olabileceğini ve çok akıcı konuşmanın bir dezavantaj haline gelebileceğini içselleştirirler. Zamanla bu, amacı fikirleri açıkça ifade etmekten veya bir ses geliştirmekten, istatistiksel bir eşiği aşacak kadar sıradan metin üretmeye doğru kaydırır.
Bu gerçekle yüzleşen Maye, sonunda öğrencilerine araştırma ve taslak oluşturma için yapay zeka araçlarına güvenebileceklerini, ancak taslak hazırlama işini kendi ellerinde tutmaları gerektiğini söyledi. Ayrıca, soru metni tasarımı, otomatik özetlerin sınırlılıkları ve bir modelin düşünme süreçlerini desteklemek yerine yerini almaya başladığının uyarı işaretleri konularını da öğretmeye başladı.
Sınıftaki dinamik değişti. Öğrenciler dersten sonra ona yaklaşmaya başladılar; suçlamaları çürütmek için değil, bu sistemleri sorumlu bir şekilde nasıl kullanacaklarını sormak için. Örneğin, oluşturulan metni kopyalamadan arka plan bilgilerini nasıl toplayacaklarını veya yapay zeka tarafından yazılan bir özetin kaynak materyalden ne zaman uzaklaştığını nasıl anlayacaklarını soruyorlardı.
Maye ve diğerlerinin anlattığı deneyimler, yapay zekayı bir eğitimsel zorluk olarak ele almanın – ne zaman yardımcı olduğunu, ne zaman zarar verdiğini ve ne zaman bir destekleyici unsur haline geldiğini öğretmenin – öğrencileri dar, algoritma onaylı bir ortalamaya doğru iten dedektörlere güvenmekten daha etkili olabileceğini düşündürmektedir.
Kaynak :
https://www.techspot.com/news/111617-st ... umans.html
