Cześć,

Twój SaaS używa modelu językowego. Klient zadaje pytanie, dostaje odpowiedź, działa na jej podstawie - i ponosi szkodę, bo odpowiedź była błędna.

Kto za to odpowiada?

Zebraliśmy 3 rzeczy, które powinien wiedzieć każdy founder SaaS z AI w produkcie:

1️⃣ AI embedded vs. AI jako feature opcjonalny - to ma znaczenie prawne.
Jeśli AI jest sercem Twojego produktu, zakres Twojej odpowiedzialności jest zupełnie inny niż gdy AI to dodatkowy przycisk, który użytkownik może włączyć. Różnica powinna być widoczna w regulaminie i w umowie z klientem.

2️⃣ Human in the loop nie jest wyłącznie kwestią UX.
Jeśli Twój produkt wymaga zatwierdzenia przez człowieka przed podjęciem działania na podstawie odpowiedzi AI, ryzyko prawne realnie maleje. Warto to nie tylko wdrożyć w produkcie, ale też zapisać w dokumentach.

3️⃣ Twój regulamin prawdopodobnie tego nie reguluje.
Większość regulaminów SaaS powstała przed erą AI w produkcie. Nie ma w nich ani słowa o halucynacjach, ograniczeniach modeli, wyłączeniu odpowiedzialności za błędne rekomendacje AI ani o tym, jak użytkownik powinien traktować wyniki.

OpenTerms 1.2 zawiera moduł AI - gotowe zapisy, które możesz wbudować w swój regulamin i dostosować do modelu działania produktu.