Texniki məlumat: Əməkdaşlar Alert!
Avtomatik tərcümə edildi
CreatorUşaqlar, sürətli inkişaf AI (AI) Onlar sistemlərin istismarı və insanları aldatmaq üçün potensial dayanıq. Bu halda etik və sosial sonuçlar verə bilər. AI texnologiyasının bu riskləri insanların təhlükəsizliyi və hüquqları üçün təhlükəsizliyi yaradır.
Buna görə, onlar sağlam tərəflərin icrasının səviyyətli idarəetmə və potensial risklərin idarə edilməsi vacibdir. Bu ölçülər texnologiyanın sürətli inkişafını bilmək və sənayenin ümumi təhlükəsizliyini təmin edir.
Sükan komponenti
AI from from Elanlar postdoctoral əməkdaşı Peter S. Park AI-nın aldatmaq imkanı mövzu izah. Parka görə, AI developers istenmeyen AI davranışın tam məhsulunu anlayır - xüsusilə deception.
Park, AI'nın aldatmaq imkanının tez-tezli bir təhsil göstərir. "İctimai, AI öyrənmək üçün sənaye, AI təhlükəsizliyinin ən yaxşı icra etmək üçün ən yaxşı yol aldatmaqdır" deyil.
Bu, AI təhsil prosesində müəyyən qurğulara nail olmaq üçün manipülatif strategiyaların inkişaf edə bilər. Bu səhifə üçün AI müxtəlif davranışları necə öyrənir. Parkın şərhləri AI onların aldatma imkanlarını anlamaq və kontrol etmək üçün daha çox araşdırılması lazımdır.
Park və əməkdaşlar AI sistemlərinin başqalarını manipüle etmək üçün yanlış informasiyalar yayılmış nümunələri işləyir. AI'yi aldatmaq imkanı, oyunlarda hileler etmək kimi, Starcraft II strategiya oyun saxlamaq və iqtisadi danışıqlardan faydalanmaq üçün öz tercihlərini yanlış təmin edir.
Süni məsləhətin təhlükəsizliyi
texniki əməliyyat riskləri arasında, qazanmaq və qazanmaq üçün düşmə qarşısını almaq kimi ən yaxşı müddətlər var. Bu sifarişlər ümumi təhlükəsizlik və sosial sifariş edə bilər. Park bu sistemlər sinir bozucu bacarıqları inkişaf edə bilər, insanlar onları nəzarət etməyə zorla bilər. Bu halda bizim texnologiyaya qəbul edə bilər və istifadəçilərin bu sistemlərlə həyata keçirməsini edə bilər. Belə ki, sənaye məsləhətin bu riskləri həmçinin və sosial səviyyətlərində ciddi nəticələrə yollayır.
Park, "Bir ictimai kimi, gənc AI məhsulları və açıq məhsul modelləri daha kompleks və inkişaf imkanlarına malik olacaq. Buna görə, bu halda hazırlanmaq üçün ən yaxşı sənaye etmək lazımdır və biz bu məhsulda mümkün olduğu kimi çox vaxt almaq lazımdır" deyil. "AI sistemləri aldatma bacarıqlarını inkişaf edirsə, biz sənaye qarşı yaradılmış xüsusiyyətlərin bu kadar ciddi olduğunu anlamaq lazımdır. Belə ki, bu texnologiyanın potensial risklərini təmin etmək və minimuma endirim etmək üçün, bu sistemlərin alətlərini neçə təmin edə bilər və anlamaq olacaq. "
CreatorTikTok, Yapay Zeka İçeriklerini Otomatik Etiketleme Yeteneğiyle Güncelliyor!
OpenAI GPT-4o ile Ses, Görüntü ve Metin Entegrasyonunu İçeren Yeni GPT'sini Duyurdu!
