MediaTek faz parceria com Alibaba Cloud para chips móveis de grandes modelos

Fonte:www.ichunt.com

De acordo com o Sci-Tech Innovation Board Daily, a MediaTek, fabricante de chips para smartphones, implantou com sucesso modelos grandes com 1,8 bilhão e 4 bilhões de parâmetros em seus chips principais, como o Dimensity 9300, alcançando uma adaptação profunda do modelo grande em chips móveis e permitindo que Tongyi Qianwen execute várias rodadas de diálogo de IA, mesmo em situações offline. No futuro, as duas partes também adaptarão modelos mais grandes e de tamanhos diferentes, incluindo um com 7 bilhões de parâmetros, baseado no chip Dimensity.

Alibaba Cloud afirmou que trabalhará em estreita colaboração com a MediaTek para fornecer soluções finais de grandes modelos para fabricantes globais de telefones celulares.

Atualmente, a MediaTek é a empresa de semicondutores com o maior volume de remessas de chips para smartphones em todo o mundo. De acordo com os dados mais recentes da Canalys, ela despachou mais de 117 milhões de unidades no quarto trimestre de 2023, ocupando o primeiro lugar, seguida pela Apple com 78 milhões de remessas e pela Qualcomm com 69 milhões de remessas. Tongyi Qianwen é um grande modelo fundamental desenvolvido pela Alibaba Cloud. Até agora, lançou versões com até 100 bilhões de parâmetros e versões de código aberto com 72 bilhões, 14 bilhões, 7 bilhões, 4 bilhões, 1,8 bilhões e 500 milhões de parâmetros, bem como grandes modelos multimodais, como o modelo de compreensão visual Qwen-VL e o modelo grande de áudio Qwen-Audio.

Durante o MWC2024, a MediaTek apresentou vários aplicativos de inteligência artificial, incluindo os chips Dimensity 9300 e 8300. Entende-se que o chip Dimensity 9300 já suportou a aplicação do modelo grande de 7 bilhões de parâmetros do Meta Llama 2 no exterior e foi implementado em telefones da série vivo X100 na China com um modelo de linguagem grande de 7 bilhões de parâmetros no lado final e também executou com sucesso um modelo de 13 bilhões de parâmetros em um ambiente experimental final.

A colaboração entre MediaTek e Alibaba Cloud marca a primeira vez que o grande modelo Tongyi alcançou adaptação de hardware e software em nível de chip. Xu Dong, chefe de negócios do Tongyi Lab do Alibaba, explicou: "A IA final é um dos cenários importantes para a aplicação de grandes modelos, mas enfrenta muitos desafios, como dificuldades na adaptação de hardware e software e ambientes de desenvolvimento incompletos. Alibaba Cloud e MediaTek superaram uma série de desafios técnicos e de engenharia relacionados à adaptação subjacente e ao desenvolvimento de nível superior, integrando verdadeiramente o modelo grande no chip móvel e explorando um novo modelo de implantação de Model-on-Chip para IA final”.

Além da MediaTek, a Qualcomm também está promovendo ativamente a implementação de grandes modelos em dispositivos móveis. Em 18 de março, a Qualcomm anunciou o lançamento da plataforma móvel Snapdragon 8s de terceira geração, que suporta modelos de linguagem grande com até 10 bilhões de parâmetros e também pode suportar modelos de IA generativos multimodais, incluindo Baichuan-7B, Gemini Nano, Llama 2 e Zhipu ChatGLM de empresas como Baidu Xiriver, Google e META. É relatado que o Xiaomi Civi 4 Pro será o primeiro a ser equipado com a plataforma móvel Snapdragon 8s.

Um analista da indústria de eletrônicos de consumo afirmou que a colaboração entre Alibaba Cloud e MediaTek significa que os fabricantes nacionais de telefones celulares agora têm uma alternativa ao Baidu.

De acordo com o entendimento do repórter, Honor e Samsung já anunciaram colaborações com Baidu Wenxin Yiyan. Por exemplo, o mais recente telefone carro-chefe da Samsung, a série Galaxy S24, integra vários recursos do modelo grande Wenxin, incluindo chamadas, tradução e resumo inteligente. Além disso, uma fonte revelou que a Apple está atualmente em contato com o Baidu, na esperança de usar a tecnologia de inteligência artificial do Baidu, e negociações preliminares já ocorreram entre as duas partes.

Lin Dahua, um importante cientista do Laboratório de Inteligência Artificial de Xangai, afirmou que com o crescimento exponencial de grandes modelos baseados em nuvem, o lado final está prestes a entrar em um período de crescimento dourado. A colaboração na nuvem se tornará uma tendência importante no futuro, com a computação na nuvem estabelecendo o teto e a computação no final apoiando a adoção em larga escala pelos usuários.

Segundo previsões da consultoria IDC, o volume de remessas de smartphones no mercado chinês atingirá 277 milhões de unidades em 2024, com uma taxa de crescimento anual de 2,3%. Entre eles, o volume de remessas de telefones AI chegará a 36,6 milhões, com uma taxa de crescimento anual superior a três dígitos. A aplicação de grandes modelos de IA em telemóveis tornar-se-á mais difundida.