admin 
„Meta“ paskelbė apie naujausią generuojamųjų dirbtinio intelekto modelių „Llama“ šeimos papildymą: „Llama 3.3 70B“.
Pranešime apie X Ahmad Al-Dahle, Meta generatyvaus AI viceprezidentas, teigė, kad tik teksto Llama 3.3 70B užtikrina didžiausio Meta Llama modelio Llama 3.1 405B našumą už mažesnę kainą.
„Naudodamas naujausius potreniruočių metodų pasiekimus… šis modelis pagerina pagrindinį našumą už žymiai mažesnę kainą“, – rašė Al-Dahle.
„Al-Dahle“ paskelbė diagramą, kurioje matyti, kad „Llama 3.3 70B“ pralenkia „Google Gemini 1.5 Pro“, „OpenAI GPT-4o“ ir „Amazon“ naujai išleistą „Nova Pro“ pagal daugelį pramonės etalonų, įskaitant MMLU, įvertinantį modelio gebėjimą suprasti kalbą. El. paštu „Meta“ atstovas teigė, kad modelis turėtų pagerinti tokiose srityse kaip matematika, bendrosios žinios, nurodymų sekimas ir programų naudojimas.
Pristatome Llama 3.3 – naują 70B modelį, kuris užtikrina mūsų 405B modelio našumą, tačiau yra paprastesnis ir ekonomiškesnis. Naudodamas naujausius potreniruočių metodų, įskaitant pirmenybių optimizavimą internetu, pažangą, šis modelis pagerina pagrindinį našumą… pic.twitter.com/6oQ7b3Yuzc
– Ahmad Al-Dahle (@Ahmad_Al_Dahle) 2024 m. gruodžio 6 d
Llama 3.3 70B, kurį galima atsisiųsti iš AI dev platformos Hugging Face ir kitų šaltinių, įskaitant oficialią Llama svetainę, yra naujausias Meta žaidimas, dominuojantis dirbtinio intelekto srityje su „atvirais” modeliais, kuriuos galima naudoti ir komercializuoti įvairiems programas.
„Meta“ sąlygos apriboja, kaip tam tikri kūrėjai gali naudoti „Llama“ modelius; platformos, turinčios daugiau nei 700 milijonų vartotojų per mėnesį, turi paprašyti specialaus įmonės leidimo. Tačiau daugeliui kūrėjų ir įmonių nesvarbu, kad „Llama“ modeliai nėra „atviri“ griežčiausia prasme. „Meta“ duomenimis, jos modeliai „Llama“ buvo atsiųsta daugiau nei 650 mln.
Meta taip pat panaudojo Lamą savo tikslams. Remiantis generalinio direktoriaus Marko Zuckerbergo penktadienį paskelbtame „Instagram“ įraše, „Meta AI“, bendrovės AI asistentas, kurį visiškai maitina „Llama“ modeliai, dabar turi beveik 600 milijonų aktyvių vartotojų per mėnesį. Zuckerbergas teigia, kad Meta AI yra labiausiai naudojamas AI asistentas pasaulyje.
Atvira lamos prigimtis Metai buvo palaima ir prakeiksmas.
Lapkričio mėnesį pasirodė pranešimas, kad Kinijos karo tyrinėtojai panaudojo Lamos modelį, kad sukurtų gynybos pokalbių robotą. „Meta“ atsakė, kad „Llama“ modeliai buvo prieinami JAV gynybos partneriams.
„Meta“ taip pat išreiškė susirūpinimą dėl savo gebėjimo laikytis AI įstatymo – ES teisės akto, nustatančio dirbtinio intelekto teisinę ir reguliavimo sistemą – ir pavadino įstatymo įgyvendinimą „pernelyg nenuspėjamu“. Įmonei kyla problemų dėl susijusių BDAR, ES privatumo įstatymo nuostatų, susijusių su AI mokymais. Meta moko dirbtinio intelekto modelius pagal viešus Instagram ir Facebook vartotojų, kurie neatsisakė, duomenis – duomenis, kuriems Europoje taikomos GDPR garantijos.
ES reguliuotojai anksčiau šiais metais paprašė, kad „Meta“ sustabdytų mokymus apie Europos vartotojų duomenis, kol jie įvertins bendrovės BDAR atitiktį. Meta nusileido ir tuo pat metu pritarė atviram laiškui, kuriame raginama „šiuolaikiška BDAR interpretacija“, kuri „neatmeta pažangos“.
Meta, neapsaugota nuo techninių iššūkių, su kuriais susiduria kitos AI laboratorijos, tobulina savo skaičiavimo infrastruktūrą, kad galėtų mokyti ir aptarnauti ateities Llama modelių kartas. Bendrovė trečiadienį paskelbė, kad Luizianoje pastatys 10 milijardų dolerių vertės AI duomenų centrą – didžiausią kada nors pastatytą AI duomenų centrą.
M.Zuckerbergas per „Meta“ ketvirtojo ketvirčio pajamų skambutį rugpjūčio mėn. sakė, kad norint išmokyti kitą pagrindinį „Llama“ modelių rinkinį „Llama 4“, įmonei reikės 10 kartų daugiau skaičiavimo, nei reikėjo „Llama 3“ apmokymui.
Didelių kalbų modelių mokymas gali būti brangus verslas. 2024 m. antrąjį ketvirtį „Meta“ kapitalo išlaidos išaugo beveik 33% iki 8,5 mlrd. USD, palyginti su 6,4 mlrd. USD per metus, o tai paskatino investicijos į serverius, duomenų centrus ir tinklo infrastruktūrą.
