texnologiya dünyasında, xüsusi böyük dil modelləri (LLM) böyük məlumat yığınları işləyir zaman son məlumat unutmaq və ya bu məlumatların xarici səviyyətlərinə çatmaq üçün. Google Araşdırma komandası Titans memarlıq and MIKateqoriya "test-time memorization" (hər zaman memorization test) AI, xüsusi xidməti ilə uzun müddətli yaxşılıq probleminə daimi bir həyata keçirmək üçün söz verir.
Bu yeni texnologiya, standart Transformer modellərindən istifadə edərkəmli və yüksək sürətli xüsusiyyətlərini yeniləyir. Bu yazıda, Titans və MIRAS texnologiya sənayesini, AI bu yenilik akademik resurslara əsaslanan sıra modelləşdirmə imkanını necə çevirmək və məlumatları çevirmək olacaq.
Titans və MIRAS nədir? Texniki əsas və İnnovasiyalar
Xüsusi Transformer mimarisi, ": " Mexaniki ilə ən yaxşı bir qısa-müddət anı təklif edir; lakin hesab dəyişdirilməsi seriya uzunluğu artırır kimi dramatik artırır. Google Ali Behrouz, Meisam Razaviyayn və Vahab Mirrokni 4 dekabr 2025 bu araşdırılmışdırKateqoriya RNN'nin (Yarışıqlı Ağlar) transformatorların doğruluğu ilə sürəti birləşdirin.
- Titans Architecture: Bu sistemin "fiziki" alətidir. Titans, sabit ölçülü xüsusiyyətli RNN yaxınlığından əvvəl, dərin sinir şəhəri (multilayer sensor - MLP).
- MIRAS Frame: MIRAS (blueprint) bu axtarışları ümumiləşdirmək üçün inkişaf edilib. Bu, "müxtəlif yaddaşlıq" problemi kimi sıra modelləşdirilməsini təyin edir və əsas komponentlərində yaxşı komponentlərinə yaxşılaşdırmaq (təssas pozulma), qapı tutmaq (götürmə qapı) və yaxşı alət alqoriya alət.
Titans necə çalışır? "Surpriz Metriği" ilə Active Learning
Titans uni ehtiyac edir ki, data avtomatik saxlamaq üçün aktiv olaraq necə məlumat öyrənməkdir. Bu prosesdə, insan psixologiyasında "göyükmənli hadisələr" trendi bir matematik modeldə çevrildi.
- Sürpriz Uşaq (Surprise Metr): Model yeni məlumat və cari yaddaş statusu arasında fərq ölçür. Verilər gözəl caliba uyğundursa (aşağı sürpriz), yaxşı yenilənir. Lakin, məlumat gözlənməz (yək sürpriz), bu məlumat " hazırlığı" kimi qeyd edilir və əsasən uzunmüddətli yadda saxlanılır.
- Qalereya: Titans yalnız o anary sürpriz deyil, lakin əvvəl sürprizlər axtarış deyil ki, hesaba daxil olmaq bir güc memarını istifadə edir. Bu, hər hansı birləşdirilməsindən istifadə etmək lazımdır ki, uyğun olaraq, uyğun olaraq məlumatlaşdırmaq üçün istifadə edir.
MIRAS Frame: MSE Paradigm'in əvvəlliyi
mövcud modellərin ən çoxu Error Squares Ortalama (MSE) və ya data müqayisə zaman mövcudluğu kimi standart metodlara əsaslanır. MIRAS "Unique qaydaları" və yeni idarəetmə (regularization) formatlarını təklif edir. Bu çərçivəsində üç xüsusi modellər inkişaf edildi:
- YAAD: Hatalar üçün daha davamlı (Huber qorunması) pis və ya unconsistent data yüksək performans göstərir.
- Mobil: Bu daha müddətli qaydaları və kompleks ticarətlər istifadə edərək sabit uzunmüddətli yaxşı bir xüsusiyyət qəbul edir (etilmiş normlar).
- MEMORA: Onlar yaxınlığı artırmaq üçün böyük bir qaynaq xəstəlik kimi yaxşı bir qaynaq xəstəlik xəstəyir.
Test-Time Memorization və Performans nümunələri nədir?
Titans və MIRAS variantları Transformer ++, Mamba-2 və Gated DeltaNet kimi sektor mövcud memarlıqlarla müəyyən edilmişdir.
- Long Connect Recall haqqında: Titans kimi müxtəlif modellər, BABILong ölçü testlərində GPT-4, lakin çox daha az parametr var.
2 Milyon Token Limit: Domen adı qeydiyyatdan keçirt »Genomik və vaxt seriyası uğur: Titans yalnız məhsullarla sınırlı deyil; DNA modelləyici (GenomicsBenchmarks) və vaxt seriyası məslə ən yaxşı (state-of-the-art) nəticələr verdi.
Niyə Titans və MIRAS İnkişaf səviyyəsi?
Xüsusi modellər böyük məlumatlar və ya yavaş aşağı və ya bağlam penceresi işləyir zaman yaşlı məlumat silmək idi. Titans memarlıq dəyişiklik artırdığını göstərdi (L M) komplekslik azaldır və model daha çox "tutarlı".
MIRAS çərçivəsi internet optimallaşdırma, əlaqə yaxşılıq və memarlıq dizaynı arasında müxtəlif ring tamamladı. Bu, effektiv komponentin yalnız bir "not sahəsi" sistemi deyil və oxuyan bütün hesab edir.
AI Long-term Memory problemi, genomik analizin bir çox sahəsində uzun mühitin sübut effektiv texnologiyası (long-context AI) istifadə edəcəkdir. Google Araşdırma İnkişafı Transformer gücü ilə RNN effektivliyi birləşdirmək tərəfindən yeni bir səhifə açar.
texnologiya dünyasında, xüsusi böyük dil modelləri (LLM) böyük məlumat yığınları işləyir zaman son məlumat unutmaq və ya bu məlumatların xarici səviyyətlərinə çatmaq üçün. Google Araşdırma komandası Titans memarlıq and MI Kateqoriya "test-time memorization" (hər zaman memorization test) AI, xüsusi xidməti ilə uzun müddətli yaxşılıq probleminə daimi bir həyata keçirmək üçün söz verir. Bu yeni texnologiya, standart Transformer modellərindən istifadə edərkəmli və yüksək sürətli xüsusiyyətlərini yeniləyir. Bu yazıda, Titans və MIRAS texnologiya sənayesini, AI bu yenilik akademik resurslara əsaslanan sıra modelləşdirmə imkanını necə çevirmək və məlumatları çevirmək olacaq. Titans və MIRAS nədir? Texniki əsas və İnnovasiyalar Xüsusi Transformer mimarisi, ": " Mexaniki ilə ən yaxşı bir qısa-müddət anı təklif edir; lakin hesab dəyişdirilməsi seriya uzunluğu artırır kimi dramatik artırır. Google Ali Behrouz, Meisam Razaviyayn və Vahab Mirrokni 4 dekabr 2025 bu araşdırılmışdır Kateqoriya RNN'nin (Yarışıqlı Ağlar) transformatorların doğruluğu ilə sürəti birləşdirin. Titans Architecture: Bu sistemin "fiziki" alətidir. Titans, sabit ölçülü xüsusiyyətli RNN yaxınlığından əvvəl, dərin sinir şəhəri (multilayer sensor - MLP). MIRAS Frame: MIRAS (blueprint) bu axtarışları ümumiləşdirmək üçün inkişaf edilib. Bu, "müxtəlif yaddaşlıq" problemi kimi sıra modelləşdirilməsini təyin edir və əsas komponentlərində yaxşı komponentlərinə yaxşılaşdırmaq (təssas pozulma), qapı tutmaq (götürmə qapı) və yaxşı alət alqoriya alət. Titans necə çalışır? "Surpriz Metriği" ilə Active Learning Titans uni ehtiyac edir ki, data avtomatik saxlamaq üçün aktiv olaraq necə məlumat öyrənməkdir. Bu prosesdə, insan psixologiyasında "göyükmənli hadisələr" trendi bir matematik modeldə çevrildi. Sürpriz Uşaq (Surprise Metr): Model yeni məlumat və cari yaddaş statusu arasında fərq ölçür. Verilər gözəl caliba uyğundursa (aşağı sürpriz), yaxşı yenilənir. Lakin, məlumat gözlənməz (yək sürpriz), bu məlumat " hazırlığı" kimi qeyd edilir və əsasən uzunmüddətli yadda saxlanılır. Qalereya: Titans yalnız o anary sürpriz deyil, lakin əvvəl sürprizlər axtarış deyil ki, hesaba daxil olmaq bir güc memarını istifadə edir. Bu, hər hansı birləşdirilməsindən istifadə etmək lazımdır ki, uyğun olaraq, uyğun olaraq məlumatlaşdırmaq üçün istifadə edir. MIRAS Frame: MSE Paradigm'in əvvəlliyi mövcud modellərin ən çoxu Error Squares Ortalama (MSE) və ya data müqayisə zaman mövcudluğu kimi standart metodlara əsaslanır. MIRAS "Unique qaydaları" və yeni idarəetmə (regularization) formatlarını təklif edir. Bu çərçivəsində üç xüsusi modellər inkişaf edildi: YAAD: Hatalar üçün daha davamlı (Huber qorunması) pis və ya unconsistent data yüksək performans göstərir. Mobil: Bu daha müddətli qaydaları və kompleks ticarətlər istifadə edərək sabit uzunmüddətli yaxşı bir xüsusiyyət qəbul edir (etilmiş normlar). MEMORA: Onlar yaxınlığı artırmaq üçün böyük bir qaynaq xəstəlik kimi yaxşı bir qaynaq xəstəlik xəstəyir. Test-Time Memorization və Performans nümunələri nədir? Titans və MIRAS variantları Transformer ++, Mamba-2 və Gated DeltaNet kimi sektor mövcud memarlıqlarla müəyyən edilmişdir. Long Connect Recall haqqında: Titans kimi müxtəlif modellər, BABILong ölçü testlərində GPT-4, lakin çox daha az parametr var. 2 Milyon Token Limit: Domen adı qeydiyyatdan keçirt » Genomik və vaxt seriyası uğur: Titans yalnız məhsullarla sınırlı deyil; DNA modelləyici (GenomicsBenchmarks) və vaxt seriyası məslə ən yaxşı (state-of-the-art) nəticələr verdi. Niyə Titans və MIRAS İnkişaf səviyyəsi? Xüsusi modellər böyük məlumatlar və ya yavaş aşağı və ya bağlam penceresi işləyir zaman yaşlı məlumat silmək idi. Titans memarlıq dəyişiklik artırdığını göstərdi (L M) komplekslik azaldır və model daha çox "tutarlı". MIRAS çərçivəsi internet optimallaşdırma, əlaqə yaxşılıq və memarlıq dizaynı arasında müxtəlif ring tamamladı. Bu, effektiv komponentin yalnız bir "not sahəsi" sistemi deyil və oxuyan bütün hesab edir. AI Long-term Memory problemi, genomik analizin bir çox sahəsində uzun mühitin sübut effektiv texnologiyası (long-context AI) istifadə edəcəkdir. Google Araşdırma İnkişafı Transformer gücü ilə RNN effektivliyi birləşdirmək tərəfindən yeni bir səhifə açar.
Admin
