No dia 16 de julho, a Moonshot AI, sediada em Beijing, apresentou o novo modelo Kimi K3, com uma escala de parâmetros de 2,8 biliões, o que o torna atualmente o modelo de código aberto com mais parâmetros em todo o mundo.

O Kimi K3 integra suporte nativo àcompreensão visual e dispõe de uma janela de contexto de um milhão de tokens. Foi otimizado para cenários de tarefas complexas, como engenharia de software, trabalho de conhecimento, investigação aprofundada e compreensão multimodal, melhorando ainda mais a capacidade do modelo para lidar com tarefas complexas. Em avaliações comparativas, o nível geral de inteligência do Kimi K3 aproxima-se dos modelos de código fechado mais avançados a nível global.

Imagem visual da marca Kimi K3

Durante o treino do novo modelo de base Kimi K3, a empresa recorreu a uma arquitetura de modelo subjacente desenvolvida internamente e consolidou um conjunto completo de metodologias científicas de treino de modelos. Graças a melhorias na estrutura do modelo, nos métodos de treino e na composição de dados, a eficiência global de expansão do Kimi K3 é cerca de 2,5 vezes superior à do modelo anterior, permitindo uma conversão mais eficaz do poder computacional em capacidade do modelo.

A Moonshot AI comunicou que os pesos completos do modelo serão disponibilizados em breve, e os detalhes sobre a arquitetura, treino e avaliação serão divulgados progressivamente no relatório técnico do modelo.

Fonte: Xinhua.net