MediaTek spolupracuje s Alibaba Cloud pre veľké modely mobilných čipov

Zdroj:www.ichunt.com

Podľa denníka Sci-Tech Innovation Board Daily spoločnosť MediaTek, výrobca čipov pre smartfóny, úspešne nasadila veľké modely s 1,8 miliardami a 4 miliardami parametrov na svojich vlajkových čipoch, ako je Dimensity 9300, čím dosiahla hĺbkovú adaptáciu veľkého modelu na mobilné čipy a umožňuje Tongyi Qianwen spustiť viacero kôl dialógu AI aj v offline situáciách. V budúcnosti obe strany prispôsobia aj viac veľkých modelov rôznych veľkostí, vrátane jedného so 7 miliardami parametrov, založených na čipe Dimensity.

Alibaba Cloud uviedla, že bude úzko spolupracovať s MediaTek na poskytovaní koncových veľkých modelových riešení pre globálnych výrobcov mobilných telefónov.

V súčasnosti je MediaTek polovodičovou spoločnosťou s najvyšším objemom dodávok čipov pre smartfóny na celom svete. Podľa najnovších údajov od Canalys dodalo v štvrtom štvrťroku 2023 viac ako 117 miliónov kusov, pričom sa umiestnilo na prvom mieste, nasleduje Apple so 78 miliónmi zásielok a Qualcomm so 69 miliónmi zásielok. Tongyi Qianwen je základný veľký model vyvinutý spoločnosťou Alibaba Cloud. Doteraz uviedla na trh verzie s až 100 miliardami parametrov a open-source verzie so 72 miliardami, 14 miliardami, 7 miliardami, 4 miliardami, 1,8 miliardami a 500 miliónmi parametrov, ako aj multimodálne veľké modely ako napr. vizuálny model porozumenia Qwen-VL a audio veľký model Qwen-Audio.

Počas MWC2024 spoločnosť MediaTek predstavila rôzne aplikácie umelej inteligencie vrátane čipov Dimensity 9300 a 8300. Je zrejmé, že čip Dimensity 9300 už v zámorí podporoval aplikáciu veľkého modelu Meta Llama 2 so 7 miliardami parametrov a bol implementovaný na telefónoch vivo série X100 v Číne s veľkým jazykovým modelom so 7 miliardami parametrov na koncovej strane a tiež úspešne spustil model s 13 miliardami parametrov v koncovom experimentálnom prostredí.

Spolupráca medzi MediaTek a Alibaba Cloud je prvým prípadom, kedy veľký model Tongyi dosiahol prispôsobenie hardvéru a softvéru na úrovni čipu. Xu Dong, obchodný riaditeľ Tongyi Lab spoločnosti Alibaba, vysvetlil: „Umelá inteligencia na konci je jedným z dôležitých scenárov pre aplikáciu veľkých modelov, ale čelí mnohým výzvam, ako sú ťažkosti s adaptáciou hardvéru a softvéru a neúplné vývojové prostredia. Alibaba Cloud a MediaTek prekonali sériu technických a inžinierskych výziev súvisiacich so základnou adaptáciou a vývojom vyššej úrovne, skutočne integrovali veľký model do mobilného čipu a skúmali nový model nasadenia Model-on-Chip pre koncovú AI."

Okrem MediaTeku implementáciu veľkých modelov na mobilné zariadenia aktívne propaguje aj Qualcomm. 18. marca Qualcomm oznámil spustenie tretej generácie mobilnej platformy Snapdragon 8s, ktorá podporuje veľké jazykové modely s až 10 miliardami parametrov a môže tiež podporovať multimodálne generatívne modely AI, vrátane Baichuan-7B, Gemini Nano, Llama 2 a Zhipu ChatGLM od spoločností ako Baidu Xiriver, Google a META. Uvádza sa, že Xiaomi Civi 4 Pro bude prvý vybavený mobilnou platformou Snapdragon 8s.

Analytik odvetvia spotrebnej elektroniky uviedol, že spolupráca medzi Alibaba Cloud a MediaTek znamená, že domáci výrobcovia mobilných telefónov majú teraz alternatívu k Baidu.

Podľa reportéra Honor a Samsung už skôr oznámili spoluprácu s Baidu Wenxin Yiyan. Napríklad najnovšia vlajková loď Samsungu, séria Galaxy S24, integruje viacero funkcií veľkého modelu Wenxin, vrátane volania, prekladu a inteligentného zhrnutia. Okrem toho zdroj odhalil, že Apple je v súčasnosti v kontakte s Baidu v nádeji, že využije technológiu umelej inteligencie Baidu a medzi oboma stranami už prebehli predbežné rozhovory.

Lin Dahua, popredný vedec v Shanghai Artificial Intelligence Laboratory, uviedol, že s exponenciálnym rastom veľkých modelov založených na cloude sa koncová strana chystá vstúpiť do zlatého obdobia rastu. Spolupráca na strane cloudu sa stane dôležitým trendom v budúcnosti, pričom cloudová výpočtová technika vytvorí strop a koncová výpočtová technika podporí adopciu vo veľkom meradle.

Podľa predpovedí poradenskej firmy IDC dosiahne objem dodávok smartfónov na čínskom trhu v roku 2024 277 miliónov kusov s medziročným rastom 2,3 %. Spomedzi nich objem dodávok AI telefónov dosiahne 36,6 milióna, pričom medziročné tempo rastu presiahne trojciferné čísla. Aplikácia veľkých modelov AI na mobilných telefónoch sa rozšíri.