Etched Révèle la Puce Sohu à Haute Vitesse pour les Modèles Transformer

Etched Présente le Puce Sohu à Haute Vitesse pour les Modèles Transformateur

En 2022, la start-up Etched a fait une démonstration remarquable avec un investissement important dans les transformateurs, le moteur des modèles d'IA tels que ChatGPT. Cet effort a abouti à la création de Sohu, un circuit intégré spécifique à application (ASIC) conçu sur mesure pour les modèles transformateur. Contrairement aux GPU conventionnels, la spécialisation de Sohu réside uniquement dans les tâches de transformateur, surpassant de près de dix fois la GPU Nvidia B200 en termes de vitesse.

Le design niched de Sohu permet une efficacité inégalée, sa capacité de FLOPS atteignant plus de 90% d'utilisation, ce qui est loin des 30% atteints par les GPU à usage général. Par conséquent, Sohu affiche une remarquable puissance dans les tâches basées sur les transformateurs, traitant plus de 500 000 tokens par seconde dans le débit Llama 70B.

Etched soutient la croyance que des puces spécialisées telles que Sohu incarnent l'avenir, en particulier à mesure que les conglomérats d'IA majeurs tels que Google et Microsoft continuent de développer la technologie des transformateurs. La société intensifie activement la production de Sohu, affichant sa confiance dans le règne imminent des transformateurs dans les marchés de calcul de l'IA. Ils laissent même entendre la possibilité de futurs ASIC pour des technologies émergentes, exprimant leur préparation à fabriquer des ASIC pour toute technologie qui pourrait défier les transformateurs.

Points Clés à Retenir

• Etched introduit Sohu, un circuit intégré spécifique à application (ASIC) affiné pour les modèles transformateur, surpassant la GPU Nvidia B200 en termes de vitesse de près de dix fois.
• Sohu atteint plus de 90% d'utilisation de FLOPS, ce qui le rend significativement supérieur aux GPU à usage général, ce qui en fait un choix efficace pour les tâches de transformateur.
• Le design du chip exclusivement favorise les transformateurs, une approche stratégique axée sur les opérations mathématiques et l'élimination de la logique de contrôle superflue.
• Etched voit des puces spécialisées comme Sohu façonnant l'avenir, avec de nombreuses commandes de production déjà en place.
• La société s'efforce de rester à la pointe du marché des matériels, prête à évoluer avec l'émergence de nouveaux modèles et technologies d'IA.

Analyse

La stratégie de mise au point d'Etched sur les ASIC spécifiques aux transformateurs, tels que Sohu, positionne l'entreprise pour tirer parti de l'expansion croissante de la domination des modèles transformateur dans l'IA. Cette initiative défie non seulement la domination des GPU Nvidia, mais correspond également aux besoins des laboratoires d'IA majeurs tels que Google et Microsoft. Les conséquences immédiates peuvent inclure une augmentation de la part de marché et des revenus d'Etched, tandis que les effets à long terme peuvent révolutionner le paysage matériel de l'IA, favorisant les ASIC spécialisés par rapport aux GPU général. Cela pourrait également entraîner des fluctuations sur les instruments financiers liés à Nvidia et inciter d'autres fabricants de puces à développer des solutions similaires hautement spécialisées.

Saviez-vous Que?

• ASIC (Circuit Intégré Spécifique à une Application) :
  • Conçus pour une tâche ou une application spécifiques, les ASIC diffèrent des circuits intégrés généralistes tels que les CPU ou les GPU. Sohu, conçu pour les calculs de transformateur dans les modèles d'IA, surpasse les puces généralistes en termes d'efficacité et de performances.
• Modèles Transformateur dans l'IA :
  • Ces architectures de réseau neuronal dominantes, y compris GPT et BERT, ont révolutionné le traitement du langage naturel en raison de leur aptitude à traiter les données séquentielles sans besoin de couches récurrentes.
• Utilisation des FLOPS :
  • Cette mesure de performance informatique, en particulier dans les calculs mathématiques complexes, souligne l'exceptionnelle efficacité de Sohu, distincte des GPU à usage général. L'atteinte de plus de 90% d'utilisation de FLOPS met en évidence l'efficacité du chip spéc