Wróć

Instrukcja5 min czytania

Ustaw uprawnienia asystenta AI

Karta poradnika: Ustaw uprawnienia asystenta AI

Prywatny asystent AI powinien odpowiadać z dokumentów, które pytająca osoba i tak może otworzyć. Skopiuj prawo odczytu ze źródła, na przykład ze SharePointa, udziału plików albo systemu zgłoszeń, na każdy fragment i zastosuj je jako filtr przy wyszukiwaniu. Prompt systemowy może prosić model o podanie źródła. O tym, kto może zobaczyć plik, decyduje filtr.

Zanim podepniesz dostęp, ustal, co w ogóle wchodzi do indeksu. Granicę opisuje poradnik co należy do bazy wiedzy prywatnego AI. Przygotowanie dokumentów pod prywatne AI obejmuje sprzątanie, OCR i metadane. Ten tekst jest o regule dostępu, którą te pola mają wymuszać.

Dlaczego filtr działa przed modelem

Model cytuje fragmenty, które trafiły do jego kontekstu. Gdy wyszukiwanie zwróci listę płac, zdanie „szanuj uprawnienia” nie wykluczy jej z odpowiedzi na tyle, żeby na tym polegać. OWASP wymienia słabości wektorów i embeddingów wśród największych zagrożeń dla aplikacji LLM: wycieki między grupami współdzielącymi jedną bazę wektorową. Jako zabezpieczenie wskazuje magazyny z kontrolą uprawnień oraz logi tego, co zostało pobrane.

Produkty, które już to robią, trzymają się systemu źródłowego. Microsoft podaje, że Microsoft 365 Copilot pokazuje tylko te dane organizacji, do których dana osoba ma co najmniej prawo odczytu. Azure AI Search opisuje ten sam układ dla indeksu, który budujesz sam: metadane uprawnień zbierasz przy indeksowaniu i egzekwujesz w chwili zapytania. Przy indeksatorze SharePoint zmiana uprawnień w źródle nie trafia do indeksu, dopóki nie przeindeksujesz dotkniętych dokumentów.

Krok po kroku

  1. Każde zapytanie uruchamiaj jako zalogowaną osobę. Użyj katalogu, który już masz, czy to Microsoft Entra, Google Workspace, czy własny dostawca tożsamości, i przy żądaniu odczytaj grupy tej osoby. Konto usługi, które czyta cały korpus, zamienia każdy późniejszy filtr w ozdobę.

  2. Skopiuj istniejące reguły dostępu, po grupach. Na każdym fragmencie zapisz grupy, które mogą czytać dokument źródłowy, razem z prawami dziedziczonymi z folderu albo witryny nadrzędnej. Skieruj asystenta na ten sam katalog, z którego korzysta magazyn plików. Gdy ktoś zmienia zespół, następne zapytanie idzie za katalogiem. Druga macierz albo arkusz nazw trzymany przy projekcie AI rozjeżdża się ze źródłem w ciągu kilku tygodni.

  3. Filtruj wyszukiwanie, zanim fragment dotrze do modelu. Przekaż grupy wywołującego do filtra wyszukiwania, żeby zabroniony fragment w ogóle nie wszedł do promptu. Złożenie promptu najpierw, a wykreślanie wierszy potem, pokazuje modelowi tekst, który miał zostać ukryty.

  4. Dyski współdzielone i linki „dla każdego” traktuj jako prawdziwy dostęp. Biblioteka udostępniona całej firmie, link, który otworzy każdy w firmie, i konto gościa na witrynie to uprawnienia. Asystent je uszanuje, bo ma odwzorować źródło. Zamknij udział w magazynie plików, a potem odśwież indeks. Poradnik o bazie wiedzy mówi to samo o treści: zbyt szeroko otwarty folder trzeba poprawić u źródła, zanim indeks skopiuje błąd.

  5. Odświeżaj dostęp, gdy zmieniają się ludzie albo foldery. Uprawnienia zapisane przy indeksowaniu nadal dają dostęp po odebraniu prawa, dopóki nie zapiszesz nowych wartości. Zaplanuj takie odświeżenie i uruchamiaj je przy zmianie członkostwa w grupie albo uprawnienia folderu. Uwaga Microsoftu o indeksatorze SharePoint jest tu konkretnym przypadkiem: przeindeksuj, inaczej poniedziałkowe zapytanie nadal stosuje piątkowy dostęp, i osoba, która w piątek odeszła z finansów, w poniedziałek nadal widzi fragment z finansów.

  6. Loguj, kto pytał i których dokumentów użyto. Zapisuj użytkownika, czas, pytanie i identyfikatory dokumentów, które weszły do promptu. OWASP wymienia logi pobrań jako sposób, żeby zauważyć wyciek z embeddingów. Trzymaj log w magazynie z własnymi regułami dostępu. Dzięki niemu odpowiesz na pytanie „czy ta osoba widziała tę umowę?”, a sam log jest też nową kopią wrażliwych pytań.

  7. Przed wdrożeniem sprawdź konto o niskich uprawnieniach. Zaloguj się jako ktoś, kto powinien widzieć dokumenty tylko jednego zespołu. Poproś o fakt, który jest tylko w zabronionym folderze, i potwierdź, że odpowiedź jest pusta albo jest odmową i nie cytuje tego pliku ani nie podaje jego tytułu. Powtórz to jako członek dozwolonej grupy i jako konto, które budowało system. Potem wyjmij użytkownika testowego z grupy i zapytaj jeszcze raz.

Przykład

Producent chce asystenta na witrynie SharePoint, z której ludzie już korzystają. Instrukcje serwisowe leżą w bibliotece, którą czyta grupa techników. Finanse i HR mają własne biblioteki. Biblioteka „Firma” jest od lat udostępniona wszystkim, bo układanie folderów szło wolniej niż zostawienie domyślnego ustawienia.

Pierwsza wersja używa jednej rejestracji aplikacji, która czyta całą witrynę. Technik pyta o zasady nadgodzin i dostaje akapit z procedury HR. Fragment był w indeksie, prompt kazał uważać, a model go zacytował.

Potem każdy fragment niesie grupy SharePoint, które mogą otworzyć plik, a filtr zapytania trzyma technika w bibliotece serwisowej. Zespół zawęża bibliotekę „Firma” do grup, które jej potrzebują, i przeindeksowuje ją. Log zapisuje użytkownika i identyfikatory plików. Przed wdrożeniem konto technika pyta o zasadę nadgodzin i nie dostaje fragmentu z HR. To samo pytanie z konta HR zwraca procedurę, z linkiem do pliku pod odpowiedzią.

Częste błędy

  • Zdanie w prompcie jako jedyna kontrola. Model zacytuje każdy fragment, który mu pobrałeś. Filtr musi odrzucić fragment wcześniej.
  • Jedno konto usługi, które czyta wszystko. Wyszukiwanie wtedy ignoruje, kto pyta. Uruchamiaj zapytanie jako tę osobę.
  • Druga lista uprawnień dla asystenta. W ciągu miesiąca rozmija się z magazynem plików. Odwzoruj grupy ze źródła.
  • Zapisanie reguł dostępu raz. Odebrane prawo działa dalej, dopóki nowa reguła nie trafi do indeksu.
  • Zostawienie dysku współdzielonego otwartego dla całej firmy. Asystent traktuje to jako uprawnienie, bo nim jest.
  • Log, który może czytać cała firma. Pytania o umowy i HR stają się drugim wyciekiem.
  • Testy na koncie osoby, która to zbudowała. To konto widzi każdą bibliotekę. Użyj konta o niskich uprawnieniach, zmień mu grupy i sprawdź jeszcze raz.

Następny krok

Wybierz jedno źródło i jedną grupę. Zapisz, kto może je dziś czytać, przypnij te grupy do fragmentów i puść dziesięć pytań jako użytkownik spoza grupy. Jeśli zabroniony dokument pojawi się w odpowiedzi albo w logu, zatrzymaj się i popraw filtr, zanim asystenta dostanie ktokolwiek inny.

Rebels Software buduje prywatne AI na infrastrukturze, którą kontrolujesz, jako część platform i aplikacji tworzonych na zamówienie. Na warsztacie Discovery razem z Tobą mapujemy źródła i grupy, które mogą je czytać, potem sprawdzamy jeden przypadek jako PoC na Twoich dokumentach, w Twojej sieci, łącznie z testem na koncie o niskich uprawnieniach. Po wdrożeniu Rebels Care dba o to, żeby indeks był zgodny ze zmianami ludzi i folderów. Jeśli to pasuje do Twojej sytuacji, umów rozmowę na tej stronie albo zacznij od strony głównej Rebels Software.

  • Prywatne AI
  • RAG
  • Kontrola dostępu