Jak Amazon może użyć dostosowanych układów AWS, aby dogonić Microsoft i Google w polu AI?
Według CNBC zespół Amazon projektuje dwa żetony, pokrewne podłużne i szkolenie, do szkolenia i przyspieszania generatywnej sztucznej inteligencji.Te układy stanowią alternatywną opcję dla klientów Amazon Cloud Services AWS do szkolenia dużych modeli językowych zamiast procesorów graficznych NVIDIA.Obecnie zakup GPU stał się coraz trudniejszy i kosztowny, a te niestandardowe układy mogą zapewnić klientom AWS alternatywne rozwiązania do szkolenia dużych modeli językowych na układach NVIDIA.
Dyrektor generalny Amazon Cloud Technology, Adam Selipsky, powiedział w czerwcu tego roku: „Świat ma nadzieję, że będzie miał więcej żetonów do generatywnej sztucznej inteligencji, niezależnie od tego, czy są to samozwańcze układy GPU, czy samozwańcze układy Amazon
Jednak inne firmy podjęły szybsze działania i zainwestowały więcej funduszy, aby zdobyć działalność z fali generatywnej sztucznej inteligencji.Kiedy Openai uruchomił CHATGPT w listopadzie ubiegłego roku, Microsoft zyskał powszechną uwagę na swoje chatboty i inwestycje o wartości 13 miliardów dolarów w Openai.Firma szybko dodała do swoich produktów generatywne modele sztucznej inteligencji i połączyła je w Bing w lutym tego roku.
W tym samym miesiącu Google uruchomił własny model językowy na dużą skalę, BARD, a następnie zainwestował 300 milionów dolarów w konkurencję Openai Anthropic.
Dopiero w kwietniu Amazon ogłosił uruchomienie własnej serii modeli Large Language (o nazwie Titan) i usługi Bedlock, aby pomóc programistom korzystać z generatywnego oprogramowania do ulepszenia sztucznej inteligencji.
Amazon nie jest używany do ścigania rynku.Amazon jest przyzwyczajony do tworzenia rynku.Myślę, że po raz pierwszy od dłuższego czasu znaleźli się w niekorzystnej sytuacji i ciężko pracują, aby nadrobić zaległości ” - powiedział Chirag Dekate, wiceprezes analityka w Gartner.
Meta niedawno wydała własne główne modele LLAMA 2.Ten konkurent Chatgpt open source można teraz przetestować w chmurze publicznej Azure Microsoft Azure Public Cloud.
Żetony to „prawdziwe zróżnicowanie”
Dekate stwierdził, że na dłuższą metę niestandardowe układy Amazon mogą dać mu przewagę w dziedzinie generatywnej sztucznej inteligencji,
Myślę, że prawdziwe zróżnicowanie leży w możliwościach technicznych, które wywierają, ponieważ Microsoft nie ma spersonalizowanych układów do szkolenia lub lekceważności
AWS po cichu zaczął produkować niestandardowe układy tak wcześnie w 2013 roku, używając specjalistycznego sprzętu o nazwie Nitro, który jest obecnie najlepiej sprzedającym się układem Aws.Amazon twierdzi, że każdy serwer AWS ma co najmniej jeden, z całkowitym wykorzystaniem ponad 20 milionów.
W 2015 r. Amazon nabył izraelski startup chipów Annapurna Labs.W 2018 r. Amazon uruchomił Graviton Server Chip, który jest konkurentem procesorów x86 od gigantów, takich jak AMD i Intel.
ARM może stanowić wysoką pojedynczą cyfrę, a nawet 10% całkowitej sprzedaży serwera, z dużą częścią z Amazon.Dlatego radzą sobie całkiem dobrze pod względem procesora ” - powiedziała Stacy Rasgon, starszy analityk Bernstein Research.
Również w 2018 roku Amazon uruchomił układy koncentrowane na sztucznej inteligencji.Dwa lata temu Google ogłosił uruchomienie pierwszej jednostki procesora tensora (TPU).Microsoft nie ogłosił jeszcze, że opracowuje Athena AI Chip, który podobno został opracowany we współpracy z AMD.
Matt Wood, wiceprezes ds. Produktów Amazon, wyjaśnił użycie chipów szkoleniowych i lekceważących.
Uczenie maszynowe jest podzielone na te dwa różne etapy.Dlatego szkolisz modele uczenia maszynowego, a następnie wywnioskować te wyszkolone modele-powiedział Wood. W porównaniu z dowolną inną metodą szkolenia modeli uczenia maszynowego na AWS, szkolenie poprawiło jego opłacalność o około 50%
Po wydaniu Inceluction w 2019 r. (Obecnie w drugiej generacji) szkolenie zostało po raz pierwszy uruchomione w 2021 r.
Początek „zapewnia bardzo tanie, wysoką przepustowość i wnioskowanie o niskim opóźnieniu uczenia maszynowego, co oznacza, że po wprowadzeniu podpowiedzi w generatywnym modelu sztucznej inteligencji, wszystkie prognozy są tutaj przetwarzane, aby udzielić odpowiedzi”-powiedział Wood.
Jednak obecnie GPU NVIDIA jest nadal królem pod względem modeli szkoleniowych.W lipcu tego roku AWS uruchomił nowy sprzęt AI Acceleration obsługiwany przez NVIDIA H100.
Rasgon powiedział: „Nvidia Chips mają ogromny ekosystem oprogramowania, aw ciągu ostatnich 15 lat zbudowany wokół nich ekosystem oprogramowania był niezrównany przez inne firmy. Obecnie największym zwycięzcą sztucznej inteligencji jest Nvidia
Wykorzystanie zalet w chmurze
Jednak dominacja w chmurze AWS jest głównym czynnikiem różnicowania dla Amazon.
Amazon nie potrzebuje żadnej dodatkowej uwagi.Amazon ma już bardzo silny fundament instalacji w chmurze.Wszystko, co muszą zrobić, to dowiedzieć się, jak umożliwić istniejącym klientom wykorzystanie generatywnej sztucznej inteligencji w celu rozszerzenia działań tworzenia wartości ” - powiedział DeKate.
Wybierając generatywną sztuczną inteligencję między Amazon, Google i Microsoft, miliony klientów AWS mogą być przyciągane do Amazon, ponieważ są już zaznajomieni z Amazon i uruchamiają inne aplikacje i przechowują dane.
Mai Lan Tomsen Bukovec, wiceprezes AWS Technology, wyjaśnił: „To kwestia szybkości. Jak szybko te firmy mogą opracować te generatywne aplikacje sztucznej inteligencji, zależy od tego, jak zaczynają od danych w AWS i korzystać z narzędzi komputerowych i uczenia maszynowego my myZapewnij je prowadzić
Według danych Gartnera, AWS jest największym na świecie dostawcą przetwarzania w chmurze, z udziałem w rynku 40% w 2022 r. Chociaż zysk operacyjny Amazon spadł rok do roku przez trzy kolejne kwartały, AWS nadal stanowi 70% z 7,7 miliarda dolarów Amazon 7,7 miliarda dolarówZysk operacyjny w drugim kwartale.Z historycznego punktu widzenia marża zysku operacyjnego AWS jest znacznie wyższa niż Google Cloud.
Ponadto AWS ma również rosnące portfolio narzędzi programistów, które koncentrują się na generatywnej sztucznej inteligencji.Swami Sivasubramanian, wiceprezes ds. Bazy danych, analizy i uczenia maszynowego w AWS, powiedział: „Odwróćmy zegar, nawet przed Chatgpt. To nie tak, nagle wyrzuciliśmy plan, ponieważ nie można zaprojektować nowegoChip in tak szybko, nie mówiąc już o ustaleniu podstawowej usługi w ciągu 2–3 miesięcy
Bedlock może zapewnić klientom AWS dostęp do dużych modeli językowych opracowanych przez Antiopic, Stability AI, AI21 Labs i Amazon Titan.Sivasubramanian powiedział: „Nie wierzymy, że jeden model będzie rządzi światem. Chcemy, aby nasi klienci mieli najnowocześniejsze modele od wielu dostawców, ponieważ wybiorą odpowiednie narzędzia do właściwej pracy
Jednym z najnowszych produktów sztucznej inteligencji Amazon jest AWS HealthScribe, który został uruchomiony w lipcu i ma na celu pomóc lekarzom w przygotowaniu podsumowań wizyt pacjentów za pomocą generatywnej sztucznej inteligencji.Amazon ma również centrum uczenia maszynowego o nazwie SageMaker, które zapewnia usługi takie jak algorytmy i modele.
Kolejnym ważnym narzędziem jest Codewhisperrer, który według Amazon zwiększył prędkość wykonania zadań programistów o średnio 57%.W ubiegłym roku Microsoft poinformował również, że jego narzędzie do kodowania Github Copilot poprawiło wydajność pracy.
W czerwcu tego roku AWS ogłosił inwestycję w wysokości 100 milionów dolarów w celu ustanowienia generatywnego centrum innowacji sztucznej inteligencji.Adam Selipsky, CEO AWS, powiedział: „Mamy wielu klientów, którzy chcą generatywnej technologii sztucznej inteligencji, ale niekoniecznie wiedzą, co to dla nich znaczy we własnym kontekście biznesowym. Dlatego wprowadzimy architektów rozwiązań, inżynierów, strategów, strategów,oraz naukowcy danych, aby współpracować z nimi jeden na jednego
Chociaż AWS dotychczas skupił się głównie na opracowywaniu narzędzi, zamiast na budowaniu konkurentów w ChatGPT, niedawno wyciekający wewnętrzny e -mail pokazuje, że dyrektor generalny Amazon, Andy Jassy, bezpośrednio nadzoruje nowy centralny zespół, który buduje również skalowalne modele dużych języków.
Podczas konferencji konferencyjnej raportu finansowego w drugim kwartale JIA XI stwierdziła, że „znaczna część” działalności AWS jest obecnie napędzana sztuczną inteligencją i jej wsparciem dla ponad 20 usług uczenia maszynowego, w tym klientów, w tym Philips, 3M, Old Mutual i HSBC.
Wybuchowy rozwój sztucznej inteligencji spowodował szereg problemów związanych z bezpieczeństwem, ponieważ firmy obawiają się, że pracownicy będą wprowadzać zastrzeżone informacje do danych szkoleniowych wykorzystywanych w modelu wspólnego dużego języka.
Adam Selipsky powiedział: „Nie mogę powiedzieć, ile firm z listy Fortune 500 skontaktowałem się z wyłączonymi chatgpt. Dlatego dzięki naszym generatywnym metodom sztucznej inteligencji i usługom łóżka, wszystko, co robisz i używasz za pośrednictwem Bedlock, będzie w twoim niezależnym wirtualnym środowisku prywatnym chmurze prywatnej. Zostanie zaszyfrowane i będzie miało tę samą kontrolę dostępu AWS
Obecnie Amazon przyspiesza jedynie promocję generatywnej sztucznej inteligencji, twierdząc, że „ponad 100000” klientów korzysta obecnie z uczenia maszynowego w AWS.Chociaż odpowiada to tylko za niewielką część milionów klientów AWS, analitycy twierdzą, że ta sytuacja może się zmienić.
Nie widzimy firm mówiących: „Och, poczekaj chwilę, Microsoft już prowadzi w generatywnej sztucznej inteligencji.Wyjdźmy i zmieńmy naszą strategię infrastruktury, przenosząc wszystko do Microsoftware.Jeśli jesteś już klientem Amazon, prawdopodobnie będziesz bardziej zbadać ekosystem Amazon.
Dyrektor generalny Amazon Cloud Technology, Adam Selipsky, powiedział w czerwcu tego roku: „Świat ma nadzieję, że będzie miał więcej żetonów do generatywnej sztucznej inteligencji, niezależnie od tego, czy są to samozwańcze układy GPU, czy samozwańcze układy Amazon
Jednak inne firmy podjęły szybsze działania i zainwestowały więcej funduszy, aby zdobyć działalność z fali generatywnej sztucznej inteligencji.Kiedy Openai uruchomił CHATGPT w listopadzie ubiegłego roku, Microsoft zyskał powszechną uwagę na swoje chatboty i inwestycje o wartości 13 miliardów dolarów w Openai.Firma szybko dodała do swoich produktów generatywne modele sztucznej inteligencji i połączyła je w Bing w lutym tego roku.
W tym samym miesiącu Google uruchomił własny model językowy na dużą skalę, BARD, a następnie zainwestował 300 milionów dolarów w konkurencję Openai Anthropic.
Dopiero w kwietniu Amazon ogłosił uruchomienie własnej serii modeli Large Language (o nazwie Titan) i usługi Bedlock, aby pomóc programistom korzystać z generatywnego oprogramowania do ulepszenia sztucznej inteligencji.
Amazon nie jest używany do ścigania rynku.Amazon jest przyzwyczajony do tworzenia rynku.Myślę, że po raz pierwszy od dłuższego czasu znaleźli się w niekorzystnej sytuacji i ciężko pracują, aby nadrobić zaległości ” - powiedział Chirag Dekate, wiceprezes analityka w Gartner.
Meta niedawno wydała własne główne modele LLAMA 2.Ten konkurent Chatgpt open source można teraz przetestować w chmurze publicznej Azure Microsoft Azure Public Cloud.
Żetony to „prawdziwe zróżnicowanie”
Dekate stwierdził, że na dłuższą metę niestandardowe układy Amazon mogą dać mu przewagę w dziedzinie generatywnej sztucznej inteligencji,
Myślę, że prawdziwe zróżnicowanie leży w możliwościach technicznych, które wywierają, ponieważ Microsoft nie ma spersonalizowanych układów do szkolenia lub lekceważności
AWS po cichu zaczął produkować niestandardowe układy tak wcześnie w 2013 roku, używając specjalistycznego sprzętu o nazwie Nitro, który jest obecnie najlepiej sprzedającym się układem Aws.Amazon twierdzi, że każdy serwer AWS ma co najmniej jeden, z całkowitym wykorzystaniem ponad 20 milionów.
W 2015 r. Amazon nabył izraelski startup chipów Annapurna Labs.W 2018 r. Amazon uruchomił Graviton Server Chip, który jest konkurentem procesorów x86 od gigantów, takich jak AMD i Intel.
ARM może stanowić wysoką pojedynczą cyfrę, a nawet 10% całkowitej sprzedaży serwera, z dużą częścią z Amazon.Dlatego radzą sobie całkiem dobrze pod względem procesora ” - powiedziała Stacy Rasgon, starszy analityk Bernstein Research.
Również w 2018 roku Amazon uruchomił układy koncentrowane na sztucznej inteligencji.Dwa lata temu Google ogłosił uruchomienie pierwszej jednostki procesora tensora (TPU).Microsoft nie ogłosił jeszcze, że opracowuje Athena AI Chip, który podobno został opracowany we współpracy z AMD.
Matt Wood, wiceprezes ds. Produktów Amazon, wyjaśnił użycie chipów szkoleniowych i lekceważących.
Uczenie maszynowe jest podzielone na te dwa różne etapy.Dlatego szkolisz modele uczenia maszynowego, a następnie wywnioskować te wyszkolone modele-powiedział Wood. W porównaniu z dowolną inną metodą szkolenia modeli uczenia maszynowego na AWS, szkolenie poprawiło jego opłacalność o około 50%
Po wydaniu Inceluction w 2019 r. (Obecnie w drugiej generacji) szkolenie zostało po raz pierwszy uruchomione w 2021 r.
Początek „zapewnia bardzo tanie, wysoką przepustowość i wnioskowanie o niskim opóźnieniu uczenia maszynowego, co oznacza, że po wprowadzeniu podpowiedzi w generatywnym modelu sztucznej inteligencji, wszystkie prognozy są tutaj przetwarzane, aby udzielić odpowiedzi”-powiedział Wood.
Jednak obecnie GPU NVIDIA jest nadal królem pod względem modeli szkoleniowych.W lipcu tego roku AWS uruchomił nowy sprzęt AI Acceleration obsługiwany przez NVIDIA H100.
Rasgon powiedział: „Nvidia Chips mają ogromny ekosystem oprogramowania, aw ciągu ostatnich 15 lat zbudowany wokół nich ekosystem oprogramowania był niezrównany przez inne firmy. Obecnie największym zwycięzcą sztucznej inteligencji jest Nvidia
Wykorzystanie zalet w chmurze
Jednak dominacja w chmurze AWS jest głównym czynnikiem różnicowania dla Amazon.
Amazon nie potrzebuje żadnej dodatkowej uwagi.Amazon ma już bardzo silny fundament instalacji w chmurze.Wszystko, co muszą zrobić, to dowiedzieć się, jak umożliwić istniejącym klientom wykorzystanie generatywnej sztucznej inteligencji w celu rozszerzenia działań tworzenia wartości ” - powiedział DeKate.
Wybierając generatywną sztuczną inteligencję między Amazon, Google i Microsoft, miliony klientów AWS mogą być przyciągane do Amazon, ponieważ są już zaznajomieni z Amazon i uruchamiają inne aplikacje i przechowują dane.
Mai Lan Tomsen Bukovec, wiceprezes AWS Technology, wyjaśnił: „To kwestia szybkości. Jak szybko te firmy mogą opracować te generatywne aplikacje sztucznej inteligencji, zależy od tego, jak zaczynają od danych w AWS i korzystać z narzędzi komputerowych i uczenia maszynowego my myZapewnij je prowadzić
Według danych Gartnera, AWS jest największym na świecie dostawcą przetwarzania w chmurze, z udziałem w rynku 40% w 2022 r. Chociaż zysk operacyjny Amazon spadł rok do roku przez trzy kolejne kwartały, AWS nadal stanowi 70% z 7,7 miliarda dolarów Amazon 7,7 miliarda dolarówZysk operacyjny w drugim kwartale.Z historycznego punktu widzenia marża zysku operacyjnego AWS jest znacznie wyższa niż Google Cloud.
Ponadto AWS ma również rosnące portfolio narzędzi programistów, które koncentrują się na generatywnej sztucznej inteligencji.Swami Sivasubramanian, wiceprezes ds. Bazy danych, analizy i uczenia maszynowego w AWS, powiedział: „Odwróćmy zegar, nawet przed Chatgpt. To nie tak, nagle wyrzuciliśmy plan, ponieważ nie można zaprojektować nowegoChip in tak szybko, nie mówiąc już o ustaleniu podstawowej usługi w ciągu 2–3 miesięcy
Bedlock może zapewnić klientom AWS dostęp do dużych modeli językowych opracowanych przez Antiopic, Stability AI, AI21 Labs i Amazon Titan.Sivasubramanian powiedział: „Nie wierzymy, że jeden model będzie rządzi światem. Chcemy, aby nasi klienci mieli najnowocześniejsze modele od wielu dostawców, ponieważ wybiorą odpowiednie narzędzia do właściwej pracy
Jednym z najnowszych produktów sztucznej inteligencji Amazon jest AWS HealthScribe, który został uruchomiony w lipcu i ma na celu pomóc lekarzom w przygotowaniu podsumowań wizyt pacjentów za pomocą generatywnej sztucznej inteligencji.Amazon ma również centrum uczenia maszynowego o nazwie SageMaker, które zapewnia usługi takie jak algorytmy i modele.
Kolejnym ważnym narzędziem jest Codewhisperrer, który według Amazon zwiększył prędkość wykonania zadań programistów o średnio 57%.W ubiegłym roku Microsoft poinformował również, że jego narzędzie do kodowania Github Copilot poprawiło wydajność pracy.
W czerwcu tego roku AWS ogłosił inwestycję w wysokości 100 milionów dolarów w celu ustanowienia generatywnego centrum innowacji sztucznej inteligencji.Adam Selipsky, CEO AWS, powiedział: „Mamy wielu klientów, którzy chcą generatywnej technologii sztucznej inteligencji, ale niekoniecznie wiedzą, co to dla nich znaczy we własnym kontekście biznesowym. Dlatego wprowadzimy architektów rozwiązań, inżynierów, strategów, strategów,oraz naukowcy danych, aby współpracować z nimi jeden na jednego
Chociaż AWS dotychczas skupił się głównie na opracowywaniu narzędzi, zamiast na budowaniu konkurentów w ChatGPT, niedawno wyciekający wewnętrzny e -mail pokazuje, że dyrektor generalny Amazon, Andy Jassy, bezpośrednio nadzoruje nowy centralny zespół, który buduje również skalowalne modele dużych języków.
Podczas konferencji konferencyjnej raportu finansowego w drugim kwartale JIA XI stwierdziła, że „znaczna część” działalności AWS jest obecnie napędzana sztuczną inteligencją i jej wsparciem dla ponad 20 usług uczenia maszynowego, w tym klientów, w tym Philips, 3M, Old Mutual i HSBC.
Wybuchowy rozwój sztucznej inteligencji spowodował szereg problemów związanych z bezpieczeństwem, ponieważ firmy obawiają się, że pracownicy będą wprowadzać zastrzeżone informacje do danych szkoleniowych wykorzystywanych w modelu wspólnego dużego języka.
Adam Selipsky powiedział: „Nie mogę powiedzieć, ile firm z listy Fortune 500 skontaktowałem się z wyłączonymi chatgpt. Dlatego dzięki naszym generatywnym metodom sztucznej inteligencji i usługom łóżka, wszystko, co robisz i używasz za pośrednictwem Bedlock, będzie w twoim niezależnym wirtualnym środowisku prywatnym chmurze prywatnej. Zostanie zaszyfrowane i będzie miało tę samą kontrolę dostępu AWS
Obecnie Amazon przyspiesza jedynie promocję generatywnej sztucznej inteligencji, twierdząc, że „ponad 100000” klientów korzysta obecnie z uczenia maszynowego w AWS.Chociaż odpowiada to tylko za niewielką część milionów klientów AWS, analitycy twierdzą, że ta sytuacja może się zmienić.
Nie widzimy firm mówiących: „Och, poczekaj chwilę, Microsoft już prowadzi w generatywnej sztucznej inteligencji.Wyjdźmy i zmieńmy naszą strategię infrastruktury, przenosząc wszystko do Microsoftware.Jeśli jesteś już klientem Amazon, prawdopodobnie będziesz bardziej zbadać ekosystem Amazon.