React Native ExecuTorch fornece uma maneira declarativa de executar modelos de IA no dispositivo usando React Native, impulsionado pelo ExecuTorch :rocket:. Oferece suporte pronto para uso para uma ampla gama de LLMs, modelos de visão computacional e mais. Visite nossa página no HuggingFace para explorar esses modelos.

ExecuTorch, desenvolvido pela Meta, é uma estrutura inovadora que permite a execução de modelos de IA em dispositivos, como telefones móveis ou microcontroladores.

React Native ExecuTorch faz a ponte entre React Native e as capacidades das plataformas nativas, permitindo que desenvolvedores executem modelos de IA localmente em dispositivos móveis de maneira eficiente. Isso pode ser alcançado sem a necessidade de extenso conhecimento em programação nativa ou aprendizado de máquina.

Índice

• Versões Suportadas
• Exemplo do Mundo Real
• Guia Rápido - Executando LFM2.5
• Apps de Demonstração
• Modelos Prontos para Uso
• Documentação
• Licença
• O que vem a seguir?

Versões Suportadas

As versões mínimas suportadas são:

• iOS 17.0
• Android 13
• React Native - veja a tabela de compatibilidade

Exemplo do Mundo Real

React Native ExecuTorch está impulsionando o Private Mind, um aplicativo de IA móvel com foco na privacidade, disponível na App Store e Google Play.

Guia Rápido - Executando LFM2.5

Comece com geração de texto com IA em 3 passos simples!

Os passos abaixo assumem um projeto Expo. Para React Native puro, siga o guia de Introdução na documentação.

:one: Instalação

# Instale o pacote
yarn add react-native-executorch

# Adicione estes pacotes para busca de recursos:
yarn add react-native-executorch-expo-resource-fetcher
yarn add expo-file-system expo-asset

# Dependendo da plataforma, escolha iOS ou Android
yarn <ios|android>

npm e pnpm também funcionam — use npm install ou pnpm add para os pacotes, e npm run <ios|android> / pnpm <ios|android> para o passo de execução.

:two: Configuração e Inicialização

Adicione isso ao seu arquivo de componente:

import {
  useLLM,
  models,
  Message,
  initExecutorch,
} from 'react-native-executorch';
import { ExpoResourceFetcher } from 'react-native-executorch-expo-resource-fetcher';

initExecutorch({
  resourceFetcher: ExpoResourceFetcher,
});

function MyComponent() {
  // Inicialize o modelo 🚀
  const llm = useLLM({ model: models.llm.lfm2_5_1_2b_instruct() });
  // ... restante do seu componente
}

:three: Execute o modelo!

const handleGenerate = async () => {
  const chat: Message[] = [
    { role: 'system', content: 'Você é um assistente prestativo' },
    { role: 'user', content: 'Qual é o significado da vida?' },
  ];

  // Conclusão de chat
  await llm.generate(chat);
  console.log('LFM2.5 diz:', llm.response);
};

Apps de Demonstração

Atualmente, hospedamos alguns apps de exemplo demonstrando casos de uso de nossa biblioteca:

• llm - Aplicativo de chat demonstrando o uso de LLMs
• speech - Implementações de tarefas de fala para texto e texto para fala
• computer-vision - Tarefas relacionadas à visão computacional
• text-embeddings - Computação de representações de texto para busca semântica
• bare-rn - Exemplo de chat LLM para React Native puro (sem Expo)

Se deseja executar um aplicativo de demonstração, primeiro inicialize os submódulos do git necessários a partir da raiz do repositório:

git submodule update --init packages/react-native-executorch/third-party/common

Em seguida, navegue até seu diretório de projeto, instale as dependências e execute o aplicativo com:

yarn && yarn <ios|android>

Modelos Prontos para Uso

Nossa biblioteca possui vários modelos de IA prontos para uso; uma lista completa está disponível na documentação. Se você está interessado em executar seu próprio modelo de IA, primeiro precisa exportá-lo para o formato .pte. Instruções sobre como fazer isso estão disponíveis na API Python e no README do optimum-executorch.

Documentação

Confira como nossa biblioteca pode ajudar você a construir recursos de IA no React Native visitando nossa documentação: https://docs.swmansion.com/react-native-executorch

Licença

Esta biblioteca é licenciada sob A Licença MIT.

O que vem a seguir?

Para saber sobre nossos planos e desenvolvimentos futuros, visite nossos marcos.

React Native ExecuTorch é criado pela Software Mansion

Desde 2012, a Software Mansion é uma agência de software com experiência na construção de aplicativos web e móveis. Somos colaboradores principais do React Native e especialistas em lidar com todos os tipos de problemas do React Native. Podemos ajudar você a construir seu próximo produto dos sonhos – Contrate-nos.