Böyük Dil Modeli (LLM), Necə Educated olunacaq?

ChatGPT, Claude və ya açıq məhsul Llama modelləri ilə sohbet. Biz çap kodu, kompleks məhsulları özetləyir, biz yalnız merak edən texnologiya və ya felci məhsul müzakirəyirik. Ekranın çıxışından ekranın digər sonunda insan kimi düşünür bir şəkil olduğu kimi, deyir şeyi anlayın. Lakin perdenin arxasında bir sehr deyil; ən böyük məlumat, böyük emal gücü və statistik hesabları var. Belə ki, son bir neçə ildə texnologiya dünya dəyişik dil modeli və bu sistemlər necə sıfırdan öyrənilir?

LLM nedir? A Sentle Tamamlama Maşın daha çox?

İngilis Açıq Böyük Dil Model LLM, suallara ən yaxşı cavab: E-poçt ünvanı

Telefonunuzun klaviaturasında avtomatik tamamlanma xüsusiyyəti düşünün. "Semin ofise" yazmaq zaman "Məyam" təklif var. LLMs petabaytlarca internet məlumatları və proses milyard qaydaları ilə bu mantığı beləyən böyük versiyalardır. Əsas fəaliyyət dəyişiklik və konfrans yaratmaq imkanıdır.

Bu transformasiyanın yaradılması 2017-ci ildə təşkil olunub və təbii dil emalını (NLP) kök Əgər lazımdır Qeyd. Əməliyyatçılar "Transformer" memarlıq inkişaf etdirmək üçün eyni zamanda bütün səhifələrin mühitini olaraq inkişaf etdi. Bu yolla, bir model məhsulun başlanğıcında bir selfie ilə bir nömrə ilə bir növbət arasında əlaqə takip edə bilər. Bu gün qadın növü, proqram dünyasında saxlamaq istəyən professionallar üçün LLM texnologiyaları Yalnız bir plus deyil, əsas mühüm tərəfindən çevrildi.

Əsas struktur Stones: Necə qazanmaq lazımdır?

LLM işləri necə anlamaq üçün, modellərin dünyanı necə algıladığını bilmək lazımdır. Kompüterlər birbaşa bizim kimi şəkillər və ya sözlər deyil; iş nömrələri işləyir.

Yadda saxla

İnformasiyalar birbaşa işləyə bilməyən, ilk "token" adlı ən az əsas hissələrinə bölünür. Əgər hansı bir söz, kimi bir hece və ya söz kök kimi qeyd bir qəbul edir.

Əlavə, İngilis dilində 1000 sözlərin bir məhsulu 1300-1400 qonaqlara uyğundur. Türk kimi məlumat bir söz kimi bir neçə müxtəlif tonlara bölünür ( kitab-lar kimi bizim kimi). Bir modelin təhlükəsiz qiyməti birbaşa bu token nömrələri birbaşa API əməliyyat və səhifə penceresi (kontext) ilə hesab edilir.

Parametri nedir?

"8B", "70B" və ya "405B" kimi sözlər modellər haqqında danışıq modellərin ölçüsünü göstərir. Parametri çağırdığımızda, insan beynində nöronlar arasında sinapsların digital kontrastı haqqında düşünə bilərik.

Parametrlər sükan sinir şəbəkəsinin təhlükəsizliyi zamanı optimize edilmiş çəkirlərdir (kağızlar) Bu çərçivələr bu növlərdə saxlanılır və sözlər arasında əsas münasibətlər. Modeli parametrlərin sayı kimi soyutmaq, əməliyyat icrası və kompleks problemlərin həyata keçirilməsi; lakin paralel olaraq lazım olan hardware dəyər və gecikmə vaxtı daxildir.

Ad Soyad: Dil Modelini necə dəstəkləyir?

Bir böyük dil modeli, aylıq qutusu və canlı almaq üçün aylıq lazım olan inteqrasiya və yüksək emal gücü tələb edir. 4 əsas məhsullarda dil modelini mövcud ola bilər:

Əsas model (Base Model) dil strukturu və ümumi dünya məlumat

GPU dəstəklərin sayı, nəzarətsiz (kontrollü) öyrənmə

3. Supervised Fine-Tuning - SFT

Soru-cevap və təhsil məlumatları ilə modelləşdirmək üçün diqqqət formatı

Daxili və sənayeli cavablara cavab verən yardım modeli

Keyfiyyətli diqqqət məlumatları, audited Learning (kontrol)

4. İştirak (Alignment - RLHF / DPO)

İnsan tercihləri və təhlükəsizlik qaydalarına cavabların optimallaşdırılması

Harmless, dürüst və uyğun son istifadəçi modeli (Instruct/Chat Model)

İnsan məlumatlaşdırma (RLHF)

1. Data Satınalma və Təmizləmə (Data Preprocessing)

Hər şey internet baxmaqla başlayır: web saytlar tarama açıq məhsul kodu mağazaları, akademik məhsullar, kitab və forumlar tərəfindən toplanmışdır. Lakin, internet məlumatları birbaşa istifadə etmir; ciddi təmizləməlidir:

• Oxunub:

• HTML tags və unidenized xüsusiyyətləri təmizlənir.

• Zərginlik, şəxs sözləri olan hissələr və şəxsi məlumatları filizlənir.

Təlim məlumatlarının keyfiyyəti modelin uğurunu təmin edir. data data in if if if if

2. Preliminary Təhsil (Pre-səfərlik)

Prosesin ən çox ən yaxşı, uzun və enerji istehlakı ən yüksək məhsuldur. Yüksək performanslı GPU həftəsi, həmçinin interval olmadan işləyir.

Bu məhsulda, model nəzarətsiz olaraq təhlükəsizdir (kontrollü). Model göstəricilərdə söz məhsulları verilir; məhsulda bir söz gizlidir və modeldən bir sonraki sözü tahmin etmək istəyir. Model milyar dəfə məsləhət edir, respublika ilə parametrlərini dəstəkləyir və vaxt üzərində dilbilgisi, qiymət axtarış və ümumi dünya məlumatını öyrənir. Prey təhsil bitdikdə bir köməkçi kimi davranmaq deyil "Basic Model" (Base Model) var.

3. Supervised Fine-Tuning - SFT

Əsas model dili yaxşı köməkçi deyil. "Almaniyanın paytaxtı nerededir?" o, onun sualını davam edə bilər. Əgər ki, yalnız bilirsiniz məhsul uzatmaq.

SFT mərkəzində, model suallı məlumat məlumatları təklif edir:

• Şirkət: Python siyahısı necə qarşılaşdırılır?

• Ad Soyad list.reverse() üsul və ya [::-1] slicing metodunu istifadə edə bilərsiniz.

Bu təlim təhsilinə görə, model bir sual, kod təsviri və ya məhsul şəkildən cavab verir.

4. İştirak (Alignment: RLHF və DPO)

Model indi tətbiq edir, bu yanıltıcı və ya hücumları istehsal edə bilər. Burada, bu noktada, insan həyata keçirir. Hugging Face LLM İnteqrasiya Kılavuzu RLHF kimi mövcuddur (© Copyright 2018. Bütün hüquqlar qorunur.) )Yadda saxlaƏtraflı metodlar

Human etiketler model istehsal edir alternativ cavabları müqayisə tərəfindən ən yaxşı və ən dəqiqə edir. Model, mükafat/ceza mexaniyası ilə bu geribildirimləri öyrənməklə istifadəçi dostu, unbiased və pis cavablar təmin edir. digər tərəf modellər tərəfindən hazırlanmış bu cavabların etibarlılığını test etmək və real həyata DeepMind SAFE sistemi Hallucination riskini kompüter və minimizing kimi avtomatik idarəetmələr.

Modelləri və Developer Dünya

Biz yalnız bu gün böyük dil modelləri istifadə üçün dev texnologiya şirkətlərinin bulud xidmətlərindən asılı deyil. Açıq texnologiyanın inkişafı ilə, developers kiçikləşdirmə texnologiyaları ilə 8-bit və ya 4-bit səviyyələri çalıştıra bilər.

AxtarAşağı-sayt AdaptationƏn yüksək keyfiyyətli düzelmə (PEFT) texnologiyaları kimi, bütün böyük modellərin yeniləndirilməsi üçün kiçik bir adapter kağız kağızını yeniləməyə imkan verir. Bu transformasiyanı öz layihələrinə daxil olmaq istəyən mühəndislər üçün LLM ekosistemi və geliştirici təhsil ev, modellər APIs, açıq məhsulları və RAG (Retrieval-Augmented Generation) . . .

Böyük dil modelləri sehrli şəkildə deyil; insan yazılı məhsulları xəstəlik çevirmək böyük optimallaşdırma sistemləri. Tokenization ilk addım əvvəllik və uyğunlaşma mantığını anlamaq, yalnız bu alətləri istifadə etmək, onları idarə etmək və layihələri bütünləşdirmək deyil.