MediaTek spolupracuje s Alibaba Cloud pro velké modely mobilních čipů

Zdroj:www.ichunt.com

Podle deníku Sci-Tech Innovation Board Daily společnost MediaTek, výrobce čipů pro chytré telefony, úspěšně nasadila velké modely s 1,8 miliardami a 4 miliardami parametrů na svých vlajkových čipech, jako je Dimensity 9300, a dosáhla tak hluboké adaptace velkého modelu na mobilní čipy a umožňující Tongyi Qianwen spustit několik kol dialogu AI i v offline situacích. V budoucnu obě strany také přizpůsobí více velkých modelů různých velikostí, včetně jednoho se 7 miliardami parametrů, založených na čipu Dimensity.

Alibaba Cloud uvedla, že bude úzce spolupracovat s MediaTek na poskytování koncových velkých modelových řešení pro globální výrobce mobilních telefonů.

V současné době je MediaTek polovodičovou společností s nejvyšším objemem dodávek čipů pro chytré telefony na celém světě. Podle nejnovějších údajů společnosti Canalys prodal ve čtvrtém čtvrtletí roku 2023 přes 117 milionů kusů a umístil se na prvním místě, následuje Apple se 78 miliony zásilek a Qualcomm s 69 miliony zásilek. Tongyi Qianwen je základní velký model vyvinutý společností Alibaba Cloud. Dosud uvedla na trh verze s až 100 miliardami parametrů a verze s otevřeným zdrojovým kódem se 72 miliardami, 14 miliardami, 7 miliardami, 4 miliardami, 1,8 miliardami a 500 miliony parametrů a také multimodální velké modely, jako je např. vizuální model porozumění Qwen-VL a audio velký model Qwen-Audio.

Během MWC2024 MediaTek předvedl různé aplikace umělé inteligence, včetně čipů Dimensity 9300 a 8300. Rozumí se, že čip Dimensity 9300 již v zámoří podporoval aplikaci velkého modelu Meta Llama 2 s 7 miliardami parametrů a byl implementován na telefonech vivo řady X100 v Číně s velkým jazykovým modelem se 7 miliardami parametrů na koncové straně a také úspěšně provozoval model s 13 miliardami parametrů v koncovém experimentálním prostředí.

Spolupráce mezi MediaTek a Alibaba Cloud je prvním případem, kdy velký model Tongyi dosáhl přizpůsobení hardwaru a softwaru na úrovni čipu. Xu Dong, obchodní ředitel Tongyi Lab společnosti Alibaba, vysvětlil: „Koncová umělá inteligence je jedním z důležitých scénářů pro aplikaci velkých modelů, ale čelí mnoha výzvám, jako jsou potíže s adaptací hardwaru a softwaru a neúplná vývojová prostředí. Alibaba Cloud a MediaTek překonaly řadu technických a inženýrských problémů souvisejících se základní adaptací a vývojem na vyšší úrovni, skutečně integrovaly velký model do mobilního čipu a prozkoumaly nový model nasazení Model-on-Chip pro koncovou AI."

Kromě MediaTeku aktivně prosazuje implementaci velkých modelů na mobilních zařízeních také Qualcomm. 18. března Qualcomm oznámil spuštění mobilní platformy Snapdragon 8s třetí generace, která podporuje velké jazykové modely s až 10 miliardami parametrů a může také podporovat multimodální generativní modely umělé inteligence, včetně Baichuan-7B, Gemini Nano, Llama 2 a Zhipu ChatGLM od společností jako Baidu Xiriver, Google a META. Uvádí se, že Xiaomi Civi 4 Pro bude první, který bude vybaven mobilní platformou Snapdragon 8s.

Analytik z odvětví spotřební elektroniky uvedl, že spolupráce mezi Alibaba Cloud a MediaTek znamená, že domácí výrobci mobilních telefonů nyní mají alternativu k Baidu.

Podle reportérova pochopení Honor a Samsung již dříve oznámily spolupráci s Baidu Wenxin Yiyan. Například nejnovější vlajková loď Samsungu, řada Galaxy S24, integruje několik funkcí velkého modelu Wenxin, včetně volání, překladu a chytré sumarizace. Zdroj navíc odhalil, že Apple je v současné době v kontaktu s Baidu v naději, že využije technologii umělé inteligence Baidu, a mezi oběma stranami již proběhly předběžné rozhovory.

Lin Dahua, přední vědec z Laboratoře umělé inteligence v Šanghaji, uvedl, že s exponenciálním růstem velkých modelů založených na cloudu se koncová strana chystá vstoupit do zlatého období růstu. Spolupráce na straně cloudu se v budoucnu stane důležitým trendem, přičemž cloudová výpočetní technika stanoví strop a výpočetní technika na straně druhé bude podporovat osvojení ve velkém měřítku uživateli.

Podle predikcí poradenské firmy IDC dosáhne objem dodávek smartphonů na čínském trhu v roce 2024 277 milionů kusů s meziročním tempem růstu 2,3 ​​%. Mezi nimi objem dodávek telefonů s umělou inteligencí dosáhne 36,6 milionu, přičemž meziroční tempo růstu přesáhne tři číslice. Rozšíří se aplikace velkých modelů AI na mobilních telefonech.