Özyinelemeli Dilsel Yapının İnsan Tarafından İşlenmesine İlişkin Kaynak-rasyonel Bir Model Bölüm 2

Bu beklentiler, anadili İngilizce olan kişilerin önceki bağlamdan sonra son fiille karşılaştıklarında okuma zamanları aracılığıyla veya anadili İngilizce olan kişilere önceki bağlam sağlanıp cümleyi tamamlamalarının istenmesiyle ölçülebilir.

Ana dil, herkesin ilk temas kurduğu ve edindiği dildir. Sadece bir iletişim aracı değil, aynı zamanda hafıza yeteneğimizi de etkiliyor. Ana dil insanın bilişsel ve algısal gelişiminin en önemli unsurlarından biridir. İnsanların dil öğrenme yeteneği, ifade yeteneği ve düşünme yeteneği ile doğrudan ilgilidir.

Birçok kişi için ana dil güçlü bir hafıza aracıdır çünkü ana dildeki yeterlilik hafıza yeteneğiyle yakından ilişkilidir. Ana dilimiz, doğal olarak etrafımızdaki insanlarla iletişim kurmak için kullandığımız için insanların hafızasını uyarır ve bu süreçte dilin içerdiği bilgileri anlamalı ve bunlara yanıt vermeliyiz. Bu deneyimler beynimizde birikir ve hafıza seviyemizi geliştirir.

Bu, çocukların ana dillerini öğrenmeye başladıklarında görülebilir çünkü yeni dil bilgisini özümseme yetenekleri sınırsızdır. Yetişkinlerde dil öğrenmenin etkisi çocuklarda olduğu kadar belirgin değildir çünkü beyin zaten çok fazla gelişim aşamasından geçmiştir.

Ayrıca ana dilimiz duygusal hafızamıza da katkı sağlar. İç organlarımız gibi beynimiz de içimizdeki derin anıları kaydedebilir. Ana dilimiz duygularımızı harekete geçirebilir, başlangıçta duygusal bir çerçeve oluşturabilir ve daha sonra hafızamızda ikonik duygular ve anılar oluşturabilir.

Kısacası anadil ile hafıza arasındaki ilişki çok önemlidir. Belleğinizi geliştirmek istiyorsanız, daha fazla ana dil öğrenmek ve bunları daha iyi kullanmak isteyebilirsiniz, bu da hafıza yeteneğinizi büyük ölçüde geliştirecektir. Ana dil aynı zamanda önemli bir kültürel mirastır. Kültürel özelliklerimizi ve ulusal karakterimizi daha iyi anlamamızı ve ifade etmemizi sağlar. Önemli bir zenginliğimizdir ve kültürel tarihimizi miras almamızın önemli bir yoludur. Belleği geliştirmemiz gerektiği görülebilir ve Cistanche Deserticola hafızayı önemli ölçüde geliştirebilir, çünkü Cistanche Deserticola aynı zamanda asetilkolin ve büyüme faktörlerinin seviyelerini arttırmak gibi nörotransmitterlerin dengesini de düzenleyebilir. Bu maddeler hafıza ve öğrenme için çok önemlidir. Ayrıca et, kan akışını iyileştirebilir ve oksijen dağıtımını destekleyebilir, bu da beynin yeterli besin ve enerji almasını sağlayarak beyin canlılığını ve dayanıklılığını artırır.

Beyin fonksiyonunu iyileştirmenin yollarını bilin'e tıklayın

Her ikisini de teorimizi test etmek için kullanıyoruz. İlk olarak, modelimizin ölçeği büyütülmüş bir uygulamasının gerçekten de yukarıda sezgisel olarak açıklanan tahminleri ortaya çıkardığını gösteriyoruz. Daha sonra, iki okuma süresi deneyinde, yapısal olarak farklı değişkenlere göre gerçek bağlamın önsel olasılığını sistematik olarak değiştiriyoruz. Öncül, doğrulanmayan değişkenleri tercih ettiğinde, insanların son fiili işlemede daha fazla zorluk yaşadığını bulduk.

Bu karşıtlık, önerdiğimiz birleştirici modelin imza niteliğindeki bir öngörüsüdür ve ne beklentiye dayalı ne de belleğe dayalı paradigmalardan gelen mevcut modellerden kaynaklanmaz.

Son olarak, üç dilde (İngilizce, Almanca ve İspanyolca) yapılan bir üretim çalışmasında, üretimdeki benzer bir modeli gösteriyoruz; bu sayede, yapısal olarak farklı değişkenler daha düşük bir önsel olasılığa sahip olduğunda, insanların doğru sayıda fiil üretme olasılığı daha yüksektir.

Resmileştirme ve Uygulama
Önerilen modeli, kaynak-rasyonel, kayıplı-bağlam-sürpriz olarak Şekil 2'de açıklıyoruz. Model, geçmiş bağlamdaki her bir kelime için, 1) kelimenin kimliği ve 2) kaç kelimenin sahip olduğu ile belirlenen bir tutma olasılığını (28, 29) hesaplar. gözlemledikten sonra gözlemlendi.

Genel hafıza temsili c, mevcut kelimelerden ve bu kelimeler için korunmayan yer tutucu sembollerden oluşur.

Bayes kuralı ve dilin a priori istatistikleri bilgisi yoluyla c, olası bağlamlar üzerinde bir sonsal P(c|c)'ye ve dolayısıyla bir sonraki kelime üzerinde tahmine dayalı bir P(w|c) dağılımına yol açar. Bir kelimenin işlem zorluğu, bilginin teorik sürpriz miktarıyla ölçülen c'den tahmin edilemezlik derecesi ile belirlenir.

−log P(w|c)=−logcP(w|c)P(c|c). [1]

İngilizce metnin önsel istatistiklerini, İngilizce metnin mevcut en güçlü istatistiksel modellerinden birini sağlayan büyük ölçekli bir sinir ağı modeli olan GPT-2(30) kullanarak temsil ediyoruz.

Akılda kalma olasılıkları, kelimenin ve mesafesinin bağlamdan bağımsız vektör temsiline göre hareket eden bir sinir ağı kullanılarak parametrelendirilir. Büyük ölçekli metin verileri üzerindeki ortalama model sürprizini [1] en aza indirmek için, tutulan bağlam sözcüklerinin ortalama sayısındaki bir üst sınıra bağlı olarak, tutma olasılıklarını optimize ediyoruz.

Modeli, bunun 0 ile 20 arasında değişen tamsayı değerlerine uyarladık.

Optimizasyon, ilgi çekici merkez yerleştirme uyaranlarıyla ilgisi olmayan İngilizce Vikipedi'deki metin verilerini kullanır (bkz. Malzemeler ve Yöntemler).

Optimize edilmiş tutma olasılıkları belirgin bir şekilde iki temel özelliği sergiler: Kelimelerin yeni olduklarında ve daha düşük kelime frekansına sahip olduklarında korunma olasılıkları daha yüksektir (SI Ek, Şekil S2). Her iki önyargı da insan dil belleği üzerine yapılan deneysel araştırmalarda iyi bir şekilde belgelenmiştir (31-33).

Tahminler

İç içe özyinelemeli yapıların işlenmesi hakkında üç tahmin elde etmek için kaynak-rasyonel kayıplı bağlam sürprizini kullandık (Şekil 1 B ve C). İlk olarak, daha fazla yerleştirme seviyesinden kurtulmak daha zor olmalıdır (Şekil 1C'deki mavi ve yeşil çizgiler).

Bu basit tahmin, 1960'lara kadar uzanan cümle anlamadaki çoğu bellek modelinde ortaktır (2, 4, 7, 24). Modelimiz genel olarak bunu öngörüyor çünkü daha fazla yerleştirme seviyesi a priori olarak daha az olasıdır, dolayısıyla daha az seviyeye sahip doğrulanmamış değişkenler daha yüksek a priori olasılığa sahip olma eğilimindedir.

İkincisi, anlamsal ipuçları önceki yerleştirme bağlamı için doğru bağımlılık yapısını güçlendirdiğinde kurtarma daha kolay olmalıdır. Bu öngörüyü, Şekil 1B, madde 1'de olduğu gibi, sondan ikinci fiilin konusu olarak hem birinci hem de ikinci isimle uyumlu olup olmadığını değiştirerek test ettik (rapor... rahatsız ve doktor... rahatsız her ikisi de makuldür), veya Şekil 1B, madde 2'deki gibi yalnızca ikinci isimle (rapor... tedavi edildi makul değil, oysa doktor... tedavi edildi makul).

Bu fiil, öznesi olarak ilk isimle bağdaşmadığı zaman, "doktorun hastayı iyileştirdiği raporu..." gibi doğrulanmayan bağlam temsillerini hoş görmez ve böylece doğru bağlamı güçlendirir.

Bu nedenle, "rahatsız" fiilini "tedavi edilmiş" olarak değiştirmek, son fiil üzerindeki işlem çabasını azaltacaktır.

Merkezi yerleştirmeye ilişkin ilk çalışmalar, isimler ve fiiller arasındaki anlamsal eşleşmenin anlamayı kolaylaştırdığını zaten belirtmişti (25, 26, 34), ancak bildiğimiz kadarıyla bu etki, kelime kelime okuma sürelerinde gösterilmemiştir. Böyle bir etki bazı hafıza temelli teorilerle uyumlu olsa da (7, 35), mevcut hesaplamalı açık modellerde (7) ortaya çıkmaz.

Üçüncüsü, isimler destekleyici istatistiksel ipuçları sağladığında iyileşme daha kolay olacaktır (Şekil 1B, madde 3). İsimler, kendilerinden sonra "şu" cümlesinin gelme olasılığı açısından büyük ölçüde farklılık gösterir; bu olasılık %≈70 ("gerçek") ila ≈0,7% ("rapor") arasında değişir.

Bir ismin ardından "that" gelmesinin log olasılığını belirtmek için "gömme önyargısı" terimini kullanırız. Şekil 1B, madde 3'te, "rapor" isminin "gerçek" olarak değiştirilmesi, doğrulanmayan değişkenlerin olasılığını azaltır; bunun da son fiil üzerindeki işlem çabasını azaltacağı tahmin edilmektedir.

İKİ ve ÜÇ koşullarında, üçüncü fiil, önyargının yerleştirilmesi daha yüksek olduğunda, gerçek bağlamın önsel olasılığını arttırdığından (Şekil 1C'de azalan mavi ve yeşil çizgiler) daha doğru bir şekilde tahmin edilmelidir.

Bu tahmin mevcut modellerden kaynaklanmıyor ancak modelimizin doğrudan bir sonucudur. BİR koşulunda, çok yüksek olasılıkla bir cümlecik içeren isimlerin hemen ardından bir fiil gelme olasılığı daha düşük olduğundan, tam tersi bir model bekliyoruz (Şekil 1C'de artan kırmızı çizgi).

Ortaya çıkan zorluk modeli, mevcut hafıza bazlı ve beklenti bazlı modellerin öngördüğünden oldukça farklıdır (Şekil 1D ve SI Ek, bölüm S7.1).

Bunları, zorluğun uzun sözdizimsel bağımlılıkların entegre edilmesinden kaynaklandığını öne süren bağımlılık yerellik teorisini (DLT) (36) ve işleme çabasının tamamen doğrulanmış bağlam temsillerinden elde edilen sürprizlerle orantılı olduğunu öne süren sürpriz teorisini (9, 10) kullanarak örneklendiriyoruz.

Gömme düzeylerinin sayısının ve BİR koşulunun davranışının etkisi, sırasıyla mevcut belleğe dayalı ve beklentiye dayalı teoriler tarafından tahmin edilmektedir.

Bununla birlikte, önceki modellerin hiçbiri anlamsal uyumluluğun veya İKİ ve ÜÇ koşullarındaki önyargıların etkilerini öngörmemektedir. Önceki modeller hakkında daha fazla bilgi için SI Ekindeki S7 bölümüne bakın.

Deney 1: İstatistiksel İpuçlarının Etkisi

Kaynak-rasyonel kayıplı-bağlam sürprizini, model sürprizini (Denklem 1) okuma sürelerine yansıyan son fiildeki insan işleme zorluğuyla karşılaştırarak test ettik.

Şekil 1A'daki formun her biri üç koşulda (BİR, İKİ ve ÜÇ) 32 uyaranı oluşturduk ve bunları yerleştirme yanlılığı açısından değişen 58 farklı isimle (örneğin, rapor, gerçek, ...) çaprazladık.

İlk olarak sürpriz teori ve son fiildeki zorluk için DLT için tahminler elde ettik (Şekil 3A); sürpriz teorisini, modelimizde öncelik için kullanılan istatistiksel modeli (GPT-2) kullanarak uyguladık. Daha sonra şaşırtıcı bir şekilde kaynak-rasyonel bağlamı hesapladık; tutma olasılıklarının optimizasyonu sırasında tutulan bağlam sözcüklerinin ortalama sayısını 0'den 20'ye değiştirdik.

Bu parametrenin aralığı boyunca model üç farklı aşamadan geçer (SI Ek, Şekil S4): Çok sayıda (17) kelime tutulduğunda davranış sürpriz teoriye çok benzer.

Çok az (4) kelime akılda tutulduğunda, İKİ ve ÜÇ'te model sürprizi belirsiz biçimde düzdür.

Bu arada model yukarıda açıklanan niteliksel tahminleri sergiliyor; Şekil 3A'da ortalama 10 kelimelik bir tutulma oranı için sonuçları gösteriyoruz (diğer tutma oranlarındaki sonuçlar için SI Ek, Şekil S4'e bakın): Model sürprizi ÜÇ koşulda İKİ'ye göre daha yüksektir, BİR koşuluna önyargının yerleştirilmesiyle artar ve azalır İKİ ve ÜÇ koşulda önyargının yerleştirilmesiyle.

Bu tahminleri labirent paradigmasını kullanarak ölçtüğümüz insanın okuma süreleriyle karşılaştırdık (37-39). Bu paradigmada, katılımcılar cümleleri kelime kelime okurlar ve bir sonraki doğru kelime ile uzunluk ve sıklık açısından eşleşen ancak verilen bağlamda çok kötü olan çeldirici kelime arasında seçim yaparlar.

İlgilenilen bağımlı değişken, bir seçim yapmak için gereken süredir (tepki süresi). Labirent paradigması, özellikle web tabanlı deneylerde, yayılma etkilerinden ve dikkatsiz katılımcılardan kaynaklanan gürültüden dolayı zayıf yerelleştirmeden muzdarip olan geleneksel kendi hızında okuma paradigmasından daha yüksek zamansal çözünürlük ve hassasiyet sağlar (38, 39).

Dikkat dağıtıcı kelimeler oluşturmak için farklı yöntemler mevcuttur; büyük ölçekli istatistiksel dil modelleri (39) kullanılarak çeldiricilerin otomatik olarak oluşturulduğu A-labirent çeşidini kullanıyoruz (ayrıntılar için Malzemeler ve Yöntemlere bakın).

Anadili İngilizce olan 100 kişiyi işe aldık, her katılımcı için 10 kritik denemeden veri topladık ve aralarına 30 doldurucu ekledik (ayrıntılar için Malzemeler ve Yöntemlere bakın).

Ortalama katılımcı hem doldurucularda hem de kritik denemelerde kelimelerin %1,9'unda hata yaptı. Katılımcılar için önceden belirlenen hariç tutma kriteri (Kelimelerin %20'sine eşit veya daha büyük seçeneğinde yanlış yanıt) katılımcıların %1,0'ını etkiledi.

Kritik kelimeye verilen yanıt yanlış olduğunda denemeleri okuma süresi analizlerinin dışında tuttuk; bu, verilerin %5,2'sini etkiledi (özellikle zor THREE koşullarında). Hataların ve hatalara bağlı okuma sürelerinin analizleri için SI Ek, bölüm S3.6'ya bakın.

Şekil 3A'da son fiilin okuma sürelerini gösteriyoruz. Bunları, log-dönüşümünden sonra, Bayesian doğrusal karışık efekt regresyonunda, katılımcıları, öğeleri ve isimleri rastgele etkiler olarak girerek analiz ettik (ayrıntılar için Malzemeler ve Yöntemler'e bakın).

Sonuçlar, kaynak-rasyonel modelin öngördüğü etkileri göstermektedir. Birincisi,ÜÇ'te okuma süreleri İKİ'den daha yüksekti (=0.18,95% güvenilir aralık [CrI] [0.13, 0.25], P( < {{ 8}}) < 0.0{{20}}01,ham okuma sürelerindeki etki: 217 ms, %95 CrI [144, 297] ms).İkincisi, önyargıyı yerleştirme ile "şu" cümlesinin varlığı arasında bir etkileşim vardı (=−0.09, 95% CrI [−0.15, −0.03],P( > 0) {{25} }.0015).

Hem modelimiz hem de sürpriz teorimizle tutarlı olarak, önyargıyı yerleştirmenin etkisi ONE koşulunda pozitifti ("gerçek" ve "rapor" arasındaki fark: 297 ms, %95 CrI [34, 566] ms).

Ancak, modelimizin öngördüğü gibi, bu etki bir "bu" cümlesinin varlığında negatife döndü ("gerçek" ve "rapor" arasındaki fark: -166 ms, %95 CrI [−297, -41]ms). Bu etki, model tahminleriyle uyumludur ve DLT veya sürpriz teoriyle tutarsızdır.

Gömme derinliği ile gömme yanlılığı arasındaki etkileşim, deneyler arasında veri bir araya toplandığında gösterilebilir (SI Ek, bölüm S2.1 ve S6.6). Daha fazla analiz için SI Ek, bölüm S3'e bakın.

Kaynak-rasyonel kayıplı bağlam sürprizinin, yalnızca merkez yerleştirmelerde değil aynı zamanda dolgu denemelerinde de okuma sürelerini tahmin etmede sürpriz teori ve DLT'ye göre geliştiğini bulduk (SI Ek, bölüm S9).

Ayrıca, kayıplı bağlam sürprizi üzerine önceki çalışmalarda varsayıldığı gibi, her bağlam sözcüğünün eşit olasılıkla tutulduğu tek tip bir bellek modeli için tahminleri de inceledik (22). Bu model, önyargıyı yerleştirmenin etkilerini tahmin eder ancak derinliğin etkisini tahmin etmez.

Ayrıca bunu tam olarak son K kelimenin mevcut olduğu pencere tabanlı bir modelle karşılaştırdık; bu model derinliğin etkisini tahmin eder ancak önyargıyı yerleştirmenin olumsuz etkisini tahmin etmez. Ayrıntılar için SI Ek, bölüm S2.2'ye bakın.

For more information:1950477648nn@gmail.com