Bien qu’annoncé pour la mi-2024, il semble qu’OpenAI n’introduira pas GPT-5 de sitôt. Sam Altman a confirmé que GPT-5 (peut-être la prochaine version du LLM de l’IA après o1) ne respectera pas le calendrier, ce qui signifie que nous pourrions voir un retard significatif dans la sortie de la version’ ;. La raison, selon de nombreuses spéculations, est ce qu’ils appellent la loi des rendements décroissants. Les GPT, ou Generative Pretrained Transformers, n’ont que les capacités que leur permet leur technologie, et l’augmentation de la base de données d’une IA ne se traduit pas nécessairement par une IA plus intelligente ou meilleure.
Les obstacles techniques auxquels se heurte le développement du GPT-5 découlent de problèmes fondamentaux dans son processus de formation. Les premiers cycles de formation ont révélé des limites inattendues dans la capacité du modèle à traiter et à synthétiser efficacement l’information. Malgré l’accès à de grandes quantités de données Internet, le modèle a eu du mal à atteindre les capacités de compréhension et de raisonnement sophistiquées qu’OpenAI avait envisagées. Cette révélation a mis en évidence une distinction fondamentale entre la quantité et la qualité des données dans le développement de l’IA.
La phase de test d' »Arrakis », lancée à la mi-2023, a mis en évidence ces difficultés. Les équipes d’ingénieurs ont découvert des lacunes importantes dans l’efficacité de traitement du modèle, ce qui a soulevé des inquiétudes quant aux délais de développement et à l’allocation des ressources. Chaque formation nécessitant environ 500 millions de dollars de ressources informatiques, ces questions d’efficacité sont passées de préoccupations techniques à d’importantes considérations financières nécessitant une planification stratégique minutieuse.
La réponse d’OpenAI à ces défis démontre la complexité du développement moderne de l’AI. Allant au-delà des données d’entraînement traditionnelles basées sur Internet, l’entreprise a lancé une approche innovante de la création d’ensembles de données. Pour ce faire, elle a réuni des équipes d’experts en la matière afin de générer du matériel de formation de haute qualité, allant de défis de codage avancés à des problèmes mathématiques complexes et des cadres conceptuels détaillés. Si cette méthodologie promet de meilleurs résultats, elle a considérablement allongé les délais de développement.
La réorientation stratégique de l’entreprise vers le développement de modèles de raisonnement avancés représente un changement d’approche fondamental. Ces nouveaux modèles sont axés sur une réflexion critique soutenue et des capacités de résolution de problèmes, et nécessitent des données de formation moins spécialisées, mais introduisent de nouvelles couches de complexité dans le développement. Cette réorientation est le signe d’une évolution plus large dans la manière dont les systèmes d’intelligence artificielle sont conçus et développés.
La confirmation par Sam Altman que le GPT-5 ne sera pas lancé en 2024 reflète une approche mesurée du développement de l’IA. Cette décision, tout en affectant les attentes du marché, souligne un engagement en faveur de l’intégrité technologique plutôt que d’un déploiement rapide. Ce retard met en évidence l’équilibre complexe entre l’ambition innovante et les contraintes pratiques dans le développement des capacités de l’IA.
Les implications du report du GPT-5 vont au-delà du calendrier immédiat de l’OpenAI. Ce développement fournit des indications précieuses sur les défis auxquels sont confrontés les systèmes d’IA de la prochaine génération. Alors que le domaine continue d’évoluer, ces obstacles techniques et de ressources déterminent à la fois le rythme et la direction des progrès de l’IA. Les leçons tirées de ce processus influenceront probablement les méthodologies et les attentes futures en matière de développement de l’IA.
Pour le secteur technologique dans son ensemble, le retard du GPT-5’ rappelle que les progrès en matière d’intelligence artificielle ne sont pas simplement une question de puissance de calcul et de ressources. Il nécessite de relever des défis techniques complexes, d’allouer les ressources de manière réfléchie et de s’engager sans relâche à respecter les normes de qualité et de capacité qui définissent la prochaine génération de systèmes d’intelligence artificielle.
The post OpenAI delays GPT-5 launch after « poor results » and high costs appeared first on Plare.
