MLOps

MLOps är uppsättningen av praxis i skärningspunkten mellan Machine Learning, DevOps och Data Engineering

MLOps eller ML Ops är en uppsättning metoder som syftar till att distribuera och underhålla maskininlärningsmodeller i produktionen på ett tillförlitligt och effektivt sätt. Ordet är en sammansättning av "maskininlärning" och den kontinuerliga utvecklingen av DevOps inom mjukvaruområdet. Maskininlärningsmodeller testas och utvecklas i isolerade experimentsystem. När en algoritm är redo att lanseras, tränas MLOps mellan Data Scientists, DevOps och Machine Learning-ingenjörer för att överföra algoritmen till produktionssystem. I likhet med DevOps- eller DataOps- metoder, strävar MLOps efter att öka automatiseringen och förbättra kvaliteten på produktionsmodeller, samtidigt som de fokuserar på affärs- och regulatoriska krav. Medan MLOps började som en uppsättning bästa praxis, utvecklas det sakta till ett oberoende förhållningssätt till ML-livscykelhantering. MLOps gäller för hela livscykeln - från integrering med modellgenerering ( livscykel för mjukvaruutveckling , kontinuerlig integration / kontinuerlig leverans ), orkestrering och distribution, till hälsa, diagnostik, styrning och affärsmått. Enligt Gartner är MLOps en delmängd av ModelOps . MLOps är fokuserat på operationalisering av ML-modeller, medan ModelOps täcker operationalisering av alla typer av AI-modeller.

Historia

Utmaningarna med den pågående användningen av maskininlärning i applikationer lyftes fram i en uppsats från 2015.

Den förutspådda tillväxten inom maskininlärning inkluderade en uppskattad fördubbling av ML-piloter och implementeringar från 2017 till 2018 och igen från 2018 till 2020.

Rapporter visar att en majoritet (upp till 88%) av företagens AI-initiativ kämpar för att ta sig bortom teststadierna [ citat behövs ] . Men de organisationer som faktiskt satte AI och maskininlärning i produktion såg en vinstmarginalökning på 3-15 %.

MLOps-marknaden uppskattades till 23,2 miljarder USD 2019 och förväntas nå 126 miljarder USD 2025 på grund av snabb introduktion.

Arkitektur

Machine Learning-system kan kategoriseras i åtta olika kategorier: datainsamling , databearbetning , funktionsteknik , datamärkning , modelldesign, modellutbildning och optimering, slutpunktsimplementering och slutpunktsövervakning. Varje steg i livscykeln för maskininlärning är byggt i sitt eget system, men kräver sammankoppling. Detta är de minsta system som företag behöver för att skala maskininlärning inom sin organisation.

Mål

Det finns ett antal mål som företag vill uppnå genom att MLOps-system framgångsrikt implementerar ML i hela företaget, inklusive:

  • Implementering och automatisering
  • Reproducerbarhet av modeller och förutsägelser
  • Diagnostik
  • Styrning och regelefterlevnad
  • Skalbarhet
  • Samarbete
  • Affärsanvändningar
  • Övervakning och förvaltning

En standardpraxis, såsom MLOps, tar hänsyn till vart och ett av de ovan nämnda områdena, vilket kan hjälpa företag att optimera arbetsflöden och undvika problem under implementeringen.

En vanlig arkitektur för ett MLOps-system skulle inkludera datavetenskapliga plattformar där modeller konstrueras och de analytiska motorerna där beräkningar utförs, med MLOps-verktyget som orkestrerar förflyttningen av maskininlärningsmodeller, data och resultat mellan systemen.

Se även

  • ModelOps , enligt Gartner , är MLOps en delmängd av ModelOps . MLOps är fokuserat på operationalisering av ML-modeller, medan ModelOps täcker operationalisering av alla typer av AI-modeller.
  • AIOps , ett liknande namn men annorlunda koncept - använder AI (ML) i IT och Operations.
  1. ^ a b Breuel, Cristiano. "ML Ops: Machine Learning as an Engineering Discipline" . Mot datavetenskap . Hämtad 6 juli 2021 .
  2. ^ Talagala, Nisha. "Varför MLOps (och inte bara ML) är ditt företags nya konkurrensgräns" . AITrends . AITrends . Hämtad 30 januari 2018 .
  3. ^ a b Vashisth, Shubhangi; Brethenoux, Erick; Choudhary, Farhan; Hare, Jim. "Använd Gartners 3-stegs MLOps-ramverk för att framgångsrikt operationalisera maskininlärningsprojekt" . Gartner . Gartner . Hämtad 30 oktober 2020 .
  4. ^ Sculley, D.; Holt, Gary; Golovin, Daniel; Davydov, Eugene; Phillips, Todd; Ebner, Dietmar; Chaudhary, Vinay; Young, Michael; Crespo, Jean-Francois; Dennison, Dan (7 december 2015). "Dold teknisk skuld i maskininlärningssystem" (PDF) . NIPS Proceedings (2015) . Hämtad 14 november 2017 .
  5. ^ Sallomi, Paul; Lee, Paul. "Deloitte Technology, Media and Telecommunications Predictions 2018" (PDF) . Deloitte . Deloitte . Hämtad 13 oktober 2017 .
  6. ^ Bughin, Jacques; Hazan, Eric; Ramaswamy, Sree; Chui, Michael; Allas, Tera; Dahlström, Peter; Henke, Nicolaus; Trench, Monica. "Artificiell intelligens The Next Digital Frontier?" . McKinsey . McKinsey Global Institute . Hämtad 1 juni 2017 .
  7. ^ "2021 MLOps-plattformsleverantörsanalysrapport" . Neu.ro . Hämtad 10 augusti 2021 .
  8. ^ a b Walsh, Nick. "Uppkomsten av kvantorienterade utvecklare och behovet av standardiserade MLOps" . Slides . Nick Walsh . Hämtad 1 januari 2018 .
  9. ^ "Kod till produktionsklar maskininlärning i 4 steg" . DAGsHub-blogg . 2021-02-03 . Hämtad 2021-02-19 .
  10. ^ a b Vaktmästare, Pete. "The Machine Learning Reproducibility Crisis" . Pete Wardens blogg . Pete Warden . Hämtad 19 mars 2018 .
  11. ^ Vaughan, Jack. "Machine learning algoritmer möter datastyrning" . SearchDataManagement . TechTarget . Hämtad 1 september 2017 .
  12. ^ Lorica, Ben. "Hur man tränar och implementerar djupinlärning i stor skala" . O'Reilly . O'Reilly . Hämtad 15 mars 2018 .
  13. ^ Garda, Natalie. "IoT och maskininlärning: varför samarbete är nyckeln" . IoT Tech Expo . Encore Media Group . Hämtad 12 oktober 2017 .
  14. ^ Manyika, James. "Vad är nu och nästa gång inom analys, AI och automation" . McKinsey . McKinsey Global Institute . Hämtad 1 maj 2017 .
  15. ^ Haviv, Yaron. "MLOps utmaningar, lösningar och framtida trender" . Iguazio . Iguazio . Hämtad 19 februari 2020 .