Une IA aussi intelligente que ChatGPT… directement dans votre poche, sans Internet !
Imaginez un assistant IA aussi puissant que ChatGPT, capable de comprendre vos photos, de répondre à vos questions et même de raisonner… le tout sans jamais avoir besoin d'être connecté à Internet. Ce rêve est en train de devenir réalité grâce à une startup américaine qui vient de réussir un véritable exploit technique.
Le défi : faire entrer un cerveau géant dans un téléphone
Pour comprendre l'exploit, il faut d'abord saisir une chose simple : les intelligences artificielles comme ChatGPT sont de véritables « cerveaux numériques » composés de milliards de petits réglages qu'on appelle des paramètres. Plus il y en a, plus l'IA est intelligente. ChatGPT en compte des centaines de milliards.
Mais voilà le problème : chaque paramètre occupe de la place en mémoire. Un modèle d'IA de 27 milliards de paramètres, comme celui dont on parle aujourd'hui, pèse normalement… 54 gigaoctets. C'est énorme ! Pour comparaison, les smartphones haut de gamme les plus récents disposent d'au plus 16 Go de mémoire vive. Impossible, donc, de faire tourner une telle IA directement sur votre téléphone.
Jusqu'à aujourd'hui, la seule solution était d'envoyer vos questions vers d'immenses centres de données (le « cloud »), où des serveurs surpuissants font le travail avant de vous renvoyer la réponse.
La prouesse de PrismML : compresser sans (trop) perdre
La startup américaine PrismML, née dans les laboratoires de la prestigieuse université de Caltech, vient de dévoiler Bonsai 27B : un modèle d'IA de 27 milliards de paramètres capable de tourner intégralement sur un iPhone, sans aucun recours au cloud.
L'astuce ? Une compression extrême. Au lieu de stocker chaque paramètre sur 16 bits (l'unité de base en informatique), PrismML a réussi à le réduire à… 1 seul bit. Résultat : les 54 Go du modèle original tombent sous la barre des 4 Go. Une taille qui rentre enfin dans la mémoire d'un téléphone.
Évidemment, compresser autant entraîne une petite perte de qualité. Selon PrismML, la meilleure version de Bonsai conserve 95 % des performances du modèle d'origine. La version la plus compacte en garde environ 90 %. Un compromis plus qu'acceptable pour avoir une IA puissante directement dans sa poche !
Pourquoi c'est une révolution pour vous
Les avantages sont énormes pour votre quotidien :
- ?️ Vie privée renforcée : vos questions, vos photos, vos conversations restent sur votre téléphone. Rien n'est envoyé à un serveur distant.
- ⚡ Ultra-rapide : plus besoin d'attendre qu'un centre de données traite votre demande. La réponse est quasi instantanée.
- ? Fonctionne sans Internet : dans le métro, à la campagne, en avion… votre assistant IA reste disponible partout, tout le temps.
- ? Pas de frais cachés : pas d'abonnement à un service cloud, l'IA est dans votre poche, point.
Apple est déjà sur le coup
Ce n'est pas un hasard si Apple surveille ce projet de très près. L'entreprise imagine déjà un Siri nouvelle génération qui fonctionnerait entièrement sur l'iPhone. Babak Hassibi, le patron de PrismML, a d'ailleurs confirmé que des discussions sont en cours avec la marque à la pomme — même si elles restent « très précoces ».
L'idée est simple : remplacer le Siri actuel, qui dépend largement d'Internet, par une IA locale capable de raisonner, de comprendre des images et d'utiliser vos applications, le tout sans jamais faire transiter vos données.
Gardons la tête froide
Comme toujours avec les grandes annonces, quelques réserves s'imposent. D'abord, ces chiffres de performance viennent de PrismML elle-même : aucune vérification indépendante n'a encore été réalisée. La sortie publique du modèle va justement permettre aux experts du monde entier de le tester.
Ensuite, une question cruciale reste sans réponse : l'impact sur la batterie. Faire tourner en permanence un « cerveau numérique » de cette taille risque de vider votre téléphone en quelques heures. Un défi que les ingénieurs devront résoudre.
Malgré ces incertitudes, une chose est sûre : l'IA locale est en marche. Et dans quelques années, avoir un assistant intelligent directement dans sa poche — même sans connexion — pourrait bien devenir la norme.