React Native ExecuTorch offre une manière déclarative de faire tourner des modèles AI sur des appareils utilisant React Native, propulsé par ExecuTorch :rocket:. Il propose un support natif pour une large gamme de LLM, de modèles de vision par ordinateur, et plus encore. Visitez notre page HuggingFace pour explorer ces modèles.

ExecuTorch, développé par Meta, est un cadre innovant permettant l'exécution de modèles AI sur des appareils comme les téléphones mobiles ou les microcontrôleurs.

React Native ExecuTorch comble le fossé entre React Native et les capacités natives de la plateforme, permettant aux développeurs de faire tourner efficacement des modèles AI locaux sur des appareils mobiles. Cela peut être réalisé sans besoin d'une expertise approfondie en programmation native ou en apprentissage machine.

Table des matières

• Versions supportées
• Exemple du monde réel
• Démarrage rapide - Exécution de LFM2.5
• Applications de démonstration
• Modèles prêts à l'emploi
• Documentation
• Licence
• Quelle est la suite ?

Versions supportées

Les versions minimales supportées sont :

• iOS 17.0
• Android 13
• React Native - voir le tableau de compatibilité

Exemple du monde réel

React Native ExecuTorch alimente Private Mind, une appli AI mobile axée sur la confidentialité, disponible sur App Store et Google Play.

Démarrage rapide - Exécution de LFM2.5

Commencez avec la génération de texte AI en 3 étapes faciles !

Les étapes ci-dessous supposent un projet Expo. Pour React Native brut, suivez le guide de démarrage dans la documentation.

:one: Installation

# Installez le package
yarn add react-native-executorch

# Ajoutez ces packages pour la récupération de ressources :
yarn add react-native-executorch-expo-resource-fetcher
yarn add expo-file-system expo-asset

# Selon la plateforme, choisissez soit iOS soit Android
yarn <ios|android>

npm et pnpm fonctionnent aussi — utilisez npm install ou pnpm add pour les packages, et npm run <ios|android> / pnpm <ios|android> pour l'étape d'exécution.

:two: Configuration et Initialisation

Ajoutez ceci à votre fichier de composant :

import {
  useLLM,
  models,
  Message,
  initExecutorch,
} from 'react-native-executorch';
import { ExpoResourceFetcher } from 'react-native-executorch-expo-resource-fetcher';

initExecutorch({
  resourceFetcher: ExpoResourceFetcher,
});

function MyComponent() {
  // Initialisez le modèle 🚀
  const llm = useLLM({ model: models.llm.lfm2_5_1_2b_instruct() });
  // ... reste de votre composant
}

:three: Exécutez le modèle !

const handleGenerate = async () => {
  const chat: Message[] = [
    { role: 'system', content: 'You are a helpful assistant' },
    { role: 'user', content: 'What is the meaning of life?' },
  ];

  // Complétion de chat
  await llm.generate(chat);
  console.log('LFM2.5 dit :', llm.response);
};

Applications de démonstration

Nous hébergeons actuellement quelques applications exemples démontrant des cas d'utilisation de notre bibliothèque :

• llm - Application de chat montrant l'utilisation de LLM
• speech - Implémentations de tâches de parole en texte et de texte en parole
• computer-vision - Tâches liées à la vision par ordinateur
• text-embeddings - Calcul de représentations textuelles pour la recherche sémantique
• bare-rn - Exemple de chat LLM pour React Native sans Expo

Si vous souhaitez exécuter une application de démonstration, initialisez d'abord les sous-modules git nécessaires depuis la racine du dépôt :

git submodule update --init packages/react-native-executorch/third-party/common

Puis accédez à son répertoire de projet, installez les dépendances et lancez l'application avec :

yarn && yarn <ios|android>

Modèles prêts à l'emploi

Notre bibliothèque contient un certain nombre de modèles AI prêts à l'emploi ; une liste complète est disponible dans la documentation. Si vous êtes intéressé à exécuter votre propre modèle AI, vous devez d'abord l'exporter au format .pte. Les instructions sur la façon de faire cela sont disponibles dans l'API Python et le README optimum-executorch.

Documentation

Découvrez comment notre bibliothèque peut vous aider à construire vos fonctionnalités AI avec React Native en visitant notre documentation : https://docs.swmansion.com/react-native-executorch

Licence

Cette bibliothèque est sous licence MIT.

Quelle est la suite ?

Pour en savoir plus sur nos futures plans et développements, veuillez consulter nos jalons.

React Native ExecuTorch est créé par Software Mansion

Depuis 2012, Software Mansion est une agence de développement avec de l'expérience dans la création d'applications web et mobiles. Nous sommes Contributeurs React Native Core et experts dans la gestion de tous types de problèmes React Native. Nous pouvons vous aider à créer votre prochain produit rêvé – Engagez-nous.