React Native ExecuTorch ofrece una forma declarativa de ejecutar modelos de IA en el dispositivo utilizando React Native, impulsado por ExecuTorch :rocket:. Proporciona soporte listo para usar para una amplia gama de LLMs, modelos de visión por computadora y más. Visita nuestra página en HuggingFace para explorar estos modelos.

ExecuTorch, desarrollado por Meta, es un marco innovador que permite la ejecución de modelos de IA en dispositivos como teléfonos móviles o microcontroladores.

React Native ExecuTorch conecta React Native con las capacidades nativas de la plataforma, permitiendo a los desarrolladores ejecutar modelos locales de IA en dispositivos móviles de manera eficiente. Esto puede lograrse sin necesidad de una gran experiencia en programación nativa o aprendizaje automático.

Tabla de contenidos

• Versiones compatibles
• Ejemplo del mundo real
• Inicio rápido - Ejecutar LFM2.5
• Aplicaciones de demostración
• Modelos listos para usar
• Documentación
• Licencia
• ¿Qué sigue?

Versiones compatibles

Las versiones mínimas compatibles son:

• iOS 17.0
• Android 13
• React Native - ver tabla de compatibilidad

Ejemplo del mundo real

React Native ExecuTorch impulsa Private Mind, una aplicación móvil de IA centrada en la privacidad disponible en App Store y Google Play.

Inicio rápido - Ejecutar LFM2.5

¡Comienza con la generación de texto impulsada por IA en 3 sencillos pasos!

Los pasos a continuación asumen un proyecto Expo. Para React Native puro, sigue la guía de Inicio en la documentación.

:one: Instalación

# Instalar el paquete
yarn add react-native-executorch

# Agrega estos paquetes para la obtención de recursos:
yarn add react-native-executorch-expo-resource-fetcher
yarn add expo-file-system expo-asset

# Dependiendo de la plataforma, elige iOS o Android
yarn <ios|android>

npm y pnpm también funcionan — usa npm install o pnpm add para los paquetes, y npm run <ios|android> / pnpm <ios|android> para el paso de ejecución.

:two: Configuración e inicialización

Agrega esto a tu archivo de componente:

import {
  useLLM,
  models,
  Message,
  initExecutorch,
} from 'react-native-executorch';
import { ExpoResourceFetcher } from 'react-native-executorch-expo-resource-fetcher';

initExecutorch({
  resourceFetcher: ExpoResourceFetcher,
});

function MyComponent() {
  // Inicializa el modelo 🚀
  const llm = useLLM({ model: models.llm.lfm2_5_1_2b_instruct() });
  // ... resto de tu componente
}

:three: ¡Ejecuta el modelo!

const handleGenerate = async () => {
  const chat: Message[] = [
    { role: 'system', content: 'Eres un asistente útil' },
    { role: 'user', content: '¿Cuál es el significado de la vida?' },
  ];

  // Generación de chat
  await llm.generate(chat);
  console.log('LFM2.5 dice:', llm.response);
};

Aplicaciones de demostración

Actualmente alojamos algunos ejemplos de aplicaciones que muestran casos de uso de nuestra biblioteca:

• llm - Aplicación de chat que muestra el uso de LLMs
• speech - Implementaciones de tareas de voz a texto y texto a voz
• computer-vision - Tareas relacionadas con visión por computadora
• text-embeddings - Cálculo de representaciones de texto para búsqueda semántica
• bare-rn - Ejemplo de chat LLM para React Native puro (sin Expo)

Si deseas ejecutar una aplicación de demostración, primero inicializa los submódulos de git necesarios desde la raíz del repositorio:

git submodule update --init packages/react-native-executorch/third-party/common

Luego navega a su directorio de proyecto, instala las dependencias y ejecuta la app con:

yarn && yarn <ios|android>

Modelos listos para usar

Nuestra biblioteca incluye varios modelos de IA listos para usar; la lista completa está disponible en la documentación. Si te interesa ejecutar tu propio modelo de IA, primero debes exportarlo al formato .pte. Las instrucciones para hacerlo están disponibles en la API de Python y en el README de optimum-executorch.

Documentación

Consulta cómo nuestra biblioteca puede ayudarte a crear funciones de IA en React Native visitando nuestra documentación: https://docs.swmansion.com/react-native-executorch

Licencia

Esta biblioteca está licenciada bajo La Licencia MIT.

¿Qué sigue?

Para conocer nuestros próximos planes y desarrollos, visita nuestros hitos.

React Native ExecuTorch es creado por Software Mansion

Desde 2012, Software Mansion es una agencia de software con experiencia en el desarrollo de aplicaciones web y móviles. Somos colaboradores principales de React Native y expertos en resolver todo tipo de problemas relacionados con esta tecnología. Podemos ayudarte a construir tu próximo producto soñado – Contrátanos.