Amazon launched neuen Service AWS Trainium

Amazon.com Inc. (NASDAQ:AMZN) hat AWS Trainium vorgestellt. Dabei handelt es sich um einen benutzerdefinierten Chip, der das kostengünstige Training von Machine-Learning-Modellen in der Cloud ermöglichen soll. Dies geschieht vor der Verfügbarkeit der neuen Habana Gaudi-basierten Amazon Elastic Compute Cloud-Instanzen, die für ML-Training entwickelt wurden und von den Gabana Gaudi-Prozessoren von Intel Corp (NASDAQ:INTC) angetrieben werden. Das Unternehmen gab an, dass AWS Trainium mit PyTorch-, TensorFlow- und MXNet-Unterstützung eine bessere Leistung als die Konkurrenz in der Cloud bieten wird. Es wird innerhalb von Amazon SageMaker und EC2-Instanzen verfügbar sein. Das Unternehmen sagte, dass Instanzen, die auf den Custom-Chips der nächsten Generation basieren, im Jahr 2021 auf den Markt kommen werden. Der Vorteil der benutzerdefinierten Chips liegt in der Geschwindigkeit und den Kosten. AWS sagt, dass der Durchsatz 30 % höher und die Kosten pro Inferenz 45 % niedriger sein werden als bei den aktuellen AWS-GPU-Instanzen. Amazon behauptet, dass Trainium die meisten Teraflops für ML-Instanzen in der Cloud liefern wird, wobei ein Teraflop einem Chip entspricht, der 1 Billion Berechnungen pro Sekunde verarbeitet. Andy Jassy, der CEO von AWS, sagte, dass das Unternehmen die Preisleistung beim ML-Training vorantreiben will und deshalb in eigene Chips investieren muss. Er sagte, dass es ein unübertroffenes Instanzen-Array in AWS gibt, das von Chip-Innovationen begleitet wird. Andy sprach während der diesjährigen Amazon re:Invent-Entwicklerkonferenz. Die neuen Angebote werden AWS Inferentia ergänzen, das Amazon letztes Jahr eingeführt hat. Inferentia ist ein Inferencing-Gegenstück zu Machine Learning Pieces, das ebenfalls kundenspezifische Chips verwendet. Es ist wichtig zu beachten, dass Trainium das gleiche SDK wie Inferentia verwenden wird. AWS merkte an, dass, obwohl Inferentia die Inferenzkosten adressiert, die etwa 90 % der ML-Infrastrukturkosten ausmachen, die meisten Entwicklungsteams immer noch durch feste Budgets für maschinelles Lernen beschränkt sind. Dies schränkt den Umfang und die Häufigkeit von Schulungen ein, die zur Verbesserung von Modellen und Anwendungen erforderlich sind. Glücklicherweise wird AWS Trainium diese Herausforderung angehen, indem es verbesserte Leistung und niedrige Kosten für Schulungen für maschinelles Lernen in der Cloud bietet.