Kolejność ma tu duże znaczenie. Zakup sprzętu przed sprawdzeniem, czy model radzi sobie z zadaniem, jest najdroższym możliwym początkiem.
1. Uzasadnienie
Dlaczego lokalnie: poufność, skala, praca bez sieci. Jeśli żaden z tych powodów nie występuje, warto zacząć od chmury.
Powód trzeba nazwać konkretnie, bo od niego zależy cała reszta. „Poufność" oznacza wskazanie, które dokumenty nie mogą wyjść i na jakiej podstawie. „Skala" oznacza podanie, ile zapytań firma przewiduje dziennie.
2. Zestaw sprawdzający
Rzeczywiste przykłady z oczekiwanym wynikiem. Przygotowane przed jakimikolwiek próbami.
Kolejność jest tu celowa. Zestaw zbudowany po pierwszych próbach nieświadomie dopasowuje się do tego, co model już potrafi, i przestaje cokolwiek sprawdzać. Warto włożyć do niego także przypadki trudne: dokumenty niepełne, nietypowe, z błędami.
3. Próba na sprzęcie wypożyczonym
Kilka modeli, kilka poziomów kwantyzacji, pomiar jakości i wydajności. Koszt kilkuset złotych zamiast kilkudziesięciu tysięcy.
To najważniejszy etap całego przebiegu. Odpowiada jednocześnie na trzy pytania: czy model radzi sobie z zadaniem, jak szybko odpowiada i ile pamięci realnie zajmuje przy najdłuższym zapytaniu.
4. Dobór sprzętu
Na podstawie wyników próby, nie zestawień. Z zapasem pamięci na dłuższy kontekst i większy model.
Zapas nie jest ostrożnością na wszelki wypadek. Wynika z tego, że dokumenty bywają dłuższe, niż zakładano, a użytkownicy szybko zaczynają wklejać całe pliki. Sam przelicznik opisuje tekst o tym, ile pamięci potrzeba na karcie.
5. Uruchomienie usługi
Model jako usługa wewnętrzna, zgodna ze standardowym sposobem wywołania, z uwierzytelnianiem i kolejką.
Te trzy elementy warto założyć od razu, bo dokładanie ich później wymaga zmian po stronie wszystkich aplikacji. Szczegóły takiego układu porządkuje tekst o tym, jak działa model na serwerze firmowym.
6. Pierwsze zastosowanie
Jedno, wąskie, z miernikiem powodzenia. Nie wszystkie pomysły naraz.
Najlepiej takie, w którym błąd jest widoczny od razu i nikogo nie kosztuje. Wdrożenie obejmujące kilka procesów naraz nie daje się ocenić, bo przy problemie nie wiadomo, który element zawiódł.
7. Obserwacja
Obciążenie, czas odpowiedzi, temperatura, zgłoszenia użytkowników. Przez pierwsze tygodnie codziennie.
Później rzadziej, ale nadal z zapisem. Wartości z pierwszych tygodni są punktem odniesienia, bez którego nie da się później stwierdzić, czy coś naprawdę zwolniło.
8. Utrzymanie
Właściciel, zastępstwo, rytm aktualizacji, kopie zapasowe, sprawdzanie nowych modeli co kwartał.
To etap, na którym najwięcej wdrożeń się zatrzymuje. Pytanie, kto utrzyma instalację lokalną, powinno mieć odpowiedź już w punkcie pierwszym.
Najczęstszy błąd
Zakup sprzętu na początku, przed sprawdzeniem, czy modele otwarte radzą sobie z danym zadaniem. Odwrócenie tej kolejności nic nie kosztuje.
Drugi w kolejności błąd to pominięcie punktu ósmego. Instalacja postawiona bez ustalonego właściciela działa dopóty, dopóki nie wymaga uwagi, a potem cicho przestaje być używana.
