Votre PC est-il compatible avec l’IA locale ? Voici le test Devicetest.ai

Souhaitez-vous savoir si votre PC gaming est prêt pour l’IA local ? Opera annonce son outil devicetest.ai permettant de le vérifier. Ce benchmark est intéressant car l’IA embarquée met le matériel à l’épreuve.

Pour exécuter ce test il est demandé d’utiliser la dernière version d’Opera Developer. A noter qu’il s’agit du premier navigateur à intégrer des modèles de langage étendus (LLM) locaux. Opéra explique que

Lors de l’exécution du test, un LLM est téléchargé, et divers éléments sont évalués, tels que les jetons par seconde, la latence du premier jeton et le temps de chargement du modèle. À l’issue du processus, le degré de préparation de l’appareil à l’exécution de l’IA en local est affiché.

Devicetest.ai est un benchmark d’évaluation des performances des modèles de langage localisés. Sa durée dépend des spécifications du système et du profil choisi (de 3 à 20 minutes).

Le choix du profil est l’étape essentielle du processus car chaque profil fait référence au LLM local qui sera téléchargé et utilisé pour effectuer le test.

Il y a trois choix, chacun associé à un LLM local plus ou moins exigeant en matière de ressources. Les modèles et les versions spécifiques utilisés sont indiqués, ainsi que les tailles du téléchargement.

La page des résultats s’affiche est s’accompagne d’un code couleur

• Vert -> le matériel est pleinement compatible avec l’IA embarquée,
• Jaune -> le matériel est en mesure d’exécuter l’IA embarquée,
• Rouge -> l’ordinateur n’est pas adapté pour prendre en charge cette technologie.

L’évaluation repose sur trois indicateurs principaux

Les TPS (Jetons par seconde). En générale, les LLM décomposent le texte en jetons. C’est la première étape du traitement. Selon le modèle, un jeton peut étre un mot, voire une fraction de mot. Dans tous les cas c’est le composant de base du LLM. Un jeton équivaut à 3/4 d’un mot de longueur moyenne. Opéra ajoute

ce paramètre évalue principalement la vitesse à laquelle le LLM peut traiter les mots anglais composés de quatre caractères, espaces compris, par seconde et en tenant compte du matériel utilisé.

Le FTL (Latence du premier jeton). Il s’agit du délai nécessaire au modèle pour générer le tout premier mot après réception de l’instruction.

Enfin le MLT (Temps de chargement du modèle).  Il s’agit de la durée nécessaire  au matériel pour charger le LLM dans la RAM du système lors de sa première ouverture.

Les résultats peuvent être exportés sous forme de fichier CSV tandis que le benchmark peut être partagé à l’aide d’un lien fourni.

Devicetest.ai demande Opera, attention !

Comme nous l’avons indiqué ce test nécessite la dernière version d’Opera Developer. Si vous n’utilisez pas ce navigateur, son installation est rapide mais attention à ne pas aller trop vite durant la phase de configuration car le navigateur se montre très curieux.

Faites un petit tour dans Options afin de limiter l’envoi d’informations concernant l’utilisation de ses fonctionnalités et éviter un lancement automatique lors du démarrage du PC. Le plus important est cependant dans « Configurer dans les paramètres » de la page Aidez-nous à améliorer Opera.

Par défaut le navigateur surveille les sites Webs consultés et la position générale afin de proposer de la publicité et du contenu personnalisés. Il faut tout décocher.

Pour tester votre PC tout est ici : Is your computer ai-ready ?