Seit der Ankündigung des Eintritts in den KI -Chip -Markt im Jahr 2018 hat Amazon AWS inferentia -Chips für Inferenz- und Trainium -Chips für Trainings -KI -Modelle entwickelt.
Rahul Kulkarni, Direktor von Compute bei Amazon AWS, erklärte: „Die beiden Produktlinien werden konvergieren.Wir werden uns auf Trainium konzentrieren, um sowohl Inferenz- als auch Schulungsleistung zu liefern. “
Inferentia wurde entwickelt, um kleinere Berechnungen zu geringeren Kosten durchzuführen.Da sich die generative KI jedoch weiterentwickelt, erfordern sich sowohl das Training als auch die Inferenz zunehmend eine größere Rechenkapazität.Die Vorteile der Verwendung separater Chips für diese Aufgaben nimmt ab.
Im Gegensatz dazu bietet Trainium eine größere Speicherkapazität und unterstützt eine breitere Palette von Datenformaten.Es enthält auch Mechanismen zur schnellen Berechnung und Kommunikation beim Umgang mit massiven Datensätzen über mehrere Server hinweg.
Auf seiner jährlichen Tech -Konferenz in Las Vegas kündigte Amazon den Start des Trainium2 -Chips an.Das Unternehmen gab außerdem Pläne zur Veröffentlichung des Trainium3 -Chips in der zweiten Hälfte von 2025 bekannt. Trainium3 wird mit einem fortschrittlichen 3NM -Prozess hergestellt, wobei die Computerleistung voraussichtlich die von Trainium2 verdoppelt wird.
Amazon möchte die Dominanz von NVIDIA auf dem KI -Chipmarkt herausfordern, wo NVIDIA derzeit rund 90% des globalen Anteils hält.Amazon hat Trainium2 für Cloud -Kunden aggressiv beworben und die niedrigeren Betriebskosten im Vergleich zu NVIDIA -Produkten betont.
Apple hat angekündigt, dass es für seine KI -Entwicklung Trainium2 -Chips verwenden wird.Darüber hinaus erwirbt der in den USA ansässige KI-Startup Anthropic, das eine Investition von 8 Milliarden US-Dollar von Amazon erhalten hat, Hunderttausende von Trainium2-Chips, um seine generativen KI-Modelle zu entwickeln.
Email: Info@ariat-tech.comHK TEL: +00 852-30501966HINZUFÜGEN: Rm 2703 27F Ho King Kommunikationszentrum 2-16,
Fa Yuen St. MongKok Kowloon, Hong Kong.