Carta Healthcare dostarcza rozwiązania klasy enterprise do zarządzania danymi klinicznymi - platformę wykorzystującą sztuczną inteligencję i głęboką wiedzę kliniczną, która pomaga organizacjom medycznym w pełni wykorzystać potencjał posiadanych danych, integrować zróżnicowane źródła przy pełnej przejrzystości ich pochodzenia oraz optymalizować procesy, tak aby skutecznie skalować automatyzację rejestrów i usprawniać opiekę nad pacjentem. Firma koncentruje się na jednym z najbardziej obciążających, mierzalnych wyzwań w szpitalach i programach jakości - pracy administracyjnej i dokumentacyjnej, która potrafi pochłaniać nawet 15 godzin tygodniowo na specjalistę, odbierając czas pacjentom i spowalniając podejmowanie decyzji. Łącząc nowoczesne technologie AI z doświadczonym zespołem klinicznych abstraktorów, Carta dąży do tego, by proces opracowywania danych był szybszy, dokładniejszy i gotowy na audyt w obszarze, w którym zaufanie i zgodność z regulacjami są absolutną podstawą.
Pod koniec 2023 roku ambitne plany rozwoju firmy zaczęły zderzać się z ograniczeniami rosnącej złożoności stosu technologicznego. W wielu obszarach nagromadzone elementy legacy utrudniały rozwój, a wdrażanie nowych klientów trwało dłużej niż zakładano. Pipeline wspierający opracowywanie danych z wykorzystaniem AI - oparty głównie na klasycznych metodach NLP, a nie modelach LLM - wymagał usprawnienia, ale zasadnicze pytanie było szersze: modele LLM rozwijały się w błyskawicznym tempie, a zarząd potrzebował jasnych wskazówek, czy i w jaki sposób powinny one trafić do środowiska produkcyjnego. Stawką były praktyczne, natychmiastowe konsekwencje: błędne decyzje mogły prowadzić do opóźnień w pracy nad rejestrami, nadmiernego obciążenia abstraktorów, angażowania inżynierów w ciągłe gaszenie pożarów lub generować ryzyka naruszenia prywatności. Dlatego Carta zwróciła się o rzetelną ocenę swoich podejść do AI, architektury systemów i sposobu pracy zespołów - ze szczególnym naciskiem na to, gdzie LLM-y faktycznie wnoszą wartość, jak wdrażać je bezpiecznie oraz jak od początku zapewnić zgodność z HIPAA.
Firma wybrała datarabbit ze względu na nasze podejście łączące rygor analityczny z praktycznym spojrzeniem. W IV kwartale 2023 r. przeprowadziliśmy rozmowy z kluczowymi interesariuszami technologicznymi i dostarczyliśmy szybkie, kompleksowe opracowanie obejmujące cały stack: przepływy danych, modele, narzędzia oraz architekturę. Opracowanie zawierało precyzyjną analizę techniczną i rekomendacje, listę działań priorytetowych oraz referencyjne diagramy architektury i procesów zaprojektowane tak, aby umożliwić natychmiastowe, etapowe wdrażanie zmian. Wspieraliśmy także transformację w całym pierwszym półroczu 2024 r., pomagając w planowaniu prac, weryfikacji wyborów technicznych oraz dbając o to, by prywatność i operacyjność były kluczowymi kryteriami na każdym etapie.
W pierwszym kroku szczegółowo przeanalizowaliśmy aktualny system - źródła danych, procesy opracowywania informacji oraz sposób ich dalszego wykorzystania - i wskazaliśmy kluczowe punkty wymagające wzmocnienia. Projekt docelowy kładł nacisk na wyraźne warstwy danych, uproszczoną, usługową architekturę oraz strategię wykorzystania LLM-ów opartą na dowodach - taką, która jasno określa, kiedy LLM-y przewyższają klasyczne NLP, a kiedy nie wnoszą dodatkowej wartości. Dodaliśmy elementy MLOps zapewniające kontrolę wersji zbiorów danych i modeli, powtarzalną ewaluację i ścieżkę ich promocji do produkcji - co pozwala przejść od eksperymentu do wersji audytowalnej. Ze względu na regulowany charakter środowiska określiliśmy również zestaw zabezpieczeń wymaganych przy korzystaniu z LLM-ów - zarówno w wersji self-hosted, jak i usług zewnętrznych - z zachowaniem pełnej zgodności z wymaganiami dotyczącymi prywatności i bezpieczeństwa.
Poza samą architekturą położyliśmy silny nacisk na wpływ LLM-ów na produkt - szczególnie w kontekście asystenta AI służącego do udzielania odpowiedzi na pytania związane z rejestrami. Pomogliśmy przeprojektować rdzeń systemu tak, aby wykorzystywał najnowsze technologie, ulepszyć mechanizmy wyszukiwania i źródłowania danych, tak aby odpowiedzi były możliwe do zweryfikowania i wiarygodne, oraz zarekomendowaliśmy, jak zarządzać promptami i jakie narzędzia produkcyjne warto zintegrować z systemem Carta. Dostarczyliśmy także analizę kosztową i wskazówki dotyczące skalowania, dzięki czemu zespoły produktowe i inżynieryjne mogły planować funkcje oraz budżety, rozumiejąc pełne konsekwencje dostępnych opcji.
„Efektem było całkowite przeprojektowanie naszego podejścia do AI.”
- Andrew Crowder, VP Engineering (wcześniej Director of AI & Operations)
Wraz z wdrożeniem zmian systemy wzbogacone o LLM-y zaczęły generować bardziej spójne odpowiedzi o lepszej wykrywalnej genezie, a kierownictwo odnotowało „widocznie lepsze wyniki” zarówno w generowanych treściach, jak i opracowywanych formularzach. Transformacja pozwoliła także wycofać niektóre kruche elementy systemu, poprawiając jego ogólną stabilność i tempo dostarczania kolejnych wersji - mimo że formalne pomiary oszczędności czasu nie były prowadzone w trakcie procesu. Prywatność i bezpieczeństwo pozostały nienaruszalne: zarówno polityki, jak i konkretne konfiguracje systemu gwarantowały, że wszelkie dane medyczne były przetwarzane wyłącznie w ramach zatwierdzonych, zgodnych z HIPAA mechanizmów kontroli.
„Wszystko zostało dostarczone szybko, w wysokiej jakości i w pełni zgodnie z naszymi potrzebami. Szczególnie imponowała nam ich umiejętność błyskawicznego zgłębiania tematów i przedstawiania odpowiedzi w sposób jasny - oraz uczciwość, kiedy jakaś technologia nie była dobrym rozwiązaniem.”
-Andrew Crowder
Zapytany o to, co można było zrobić lepiej, odpowiedział krótko: „nic”.
Po zakończeniu współpracy firma przeprowadziła rundę finansowania w 2025 r. W najbliższej perspektywie uzyskano m.in. możliwość wycofania kruchych podsystemów, poprawę stabilności i tempa wdrożeń, wzmocnienie przejrzystości pochodzenia danych oraz wyższą jakość generowanych treści i opracowywanych formularzy. Dzięki podejściu, w którym prywatność i bezpieczeństwo są wymogiem na poziomie projektu - a wszelkie dane medyczne przetwarzane są wyłącznie w kontrolowanym, zgodnym z HIPAA środowisku - zespół otrzymał jasne wskazówki dotyczące kosztów i skalowania, co pozwoliło rozwijać procesy wspierane przez AI bez budowania równoległych ścieżek i bez tarć po stronie compliance.
Dla liderów biznesowych oznacza to niższe ryzyko wdrożeń, szybsze osiąganie wartości oraz znacznie silniejszy produkt, oparty na najnowocześniejszych technologiach i dostarczający realnych korzyści.
Dla liderów technologicznych - przejrzystą drogę od eksperymentu do produkcji w obszarze AI: jasno zdefiniowane warstwy danych, powtarzalną ewaluację i proces dopuszczania modeli do użycia oraz praktyki operacyjne odporne na audyty.
Jeśli zastanawiasz się, w których obszarach AI - w tym modele LLM - realnie przynoszą wartość i jak wdrożyć je zgodnie z najlepszymi praktykami, unikając kosztownych błędów, umów rozmowę wstępną. Przeanalizujemy Twoje cele i architekturę, a następnie zaproponujemy ścieżkę dojścia do produkcji, opartą na priorytecie prywatności i świadomości kosztów.
.png)