My AI to eksperymentalny i przyjazny chatbot dla Snapchatterów.
Nasze podejście do zapewniania bezpieczeństwa użytkownikom AI
Bezpieczeństwo i dobre samopoczucie naszej społeczności są dla nas bardzo ważne. Chcemy, aby nasze produkty to odzwierciedlały. My AI wykorzystuje duże modele językowe, takie jak modele GPT firmy OpenAI oraz Gemini firmy Google. Model My AI został wytrenowany na różnorodnych tekstach. Zastosowano też dodatkowe sterowniki zabezpieczeń, unikatowe dla Snapchata. Technologia My AI została zaprogramowana tak, aby przestrzegać określonych wytycznych. Jej odpowiedzi nie są szkodliwe, ponieważ nie generuje treści brutalnych, wrogich, o charakterze seksualnym czy w inny sposób niebezpiecznych, a także nie utrwala krzywdzących uprzedzeń. Pamiętaj, że odpowiedzi mogą zawierać nieścisłości.
Wyposażyliśmy ją w te same zabezpieczenia i narzędzia, których używamy na Snapchacie. My AI blokuje również wyniki dotyczące slangu oraz słów kluczowych związanych z narkotykami. Co więcej, jeśli Snapchatterzy będą szukać informacji związanych ze zdrowiem psychicznym, zobaczą materiały przygotowane przez organizacje eksperckie. Narzędzie o nazwie Here For You pojawi się w czatach z My AI.
Pracujemy również nad dodatkowymi narzędziami dla naszego Centrum rodziny, które zapewnią rodzicom większą kontrolę nad korzystaniem z My AI przez ich nastoletnie dzieci.
Dezinformacja i tematy kontrowersyjne
My AI wykorzystuje duże modele językowe, takie jak modele GPT firmy OpenAI oraz Gemini firmy Google. Model My AI został wytrenowany na różnorodnych tekstach. Zastosowano też dodatkowe sterowniki zabezpieczeń, unikatowe dla Snapchata. W tej części przedstawiono różnorodność informacji dostępnych w Internecie, a także takich zagadnień, jak dezinformacja i tematy kontrowersyjne.
Procedura trenowana została opracowana tak, aby ograniczać rozpowszechnianie szkodliwych lub niedokładnych treści. Model został też dostosowany tak, aby redukować uprzedzenia językowe i traktować fakty priorytetowo. Warto pamiętać, że model może nie zawsze prawidłowo wywiązywać się z tego zadania. Oprócz tego firma Snap wyposażyła My AI w dodatkowe cechy i funkcje bezpieczeństwa charakterystyczne dla Snapchata.
Ograniczenia My AI
Nieustannie pracujemy nad udoskonaleniem i ewolucją My AI, ale może zdarzyć się, że odpowiedzi będą stronnicze, niepoprawne, szkodliwe lub zawierać wprowadzające w błąd treści. My AI jest funkcją rozwijającą się, więc należy samodzielnie weryfikować każdą odpowiedź przed zastosowaniem się do przedstawionej rady. Dodatkowo pamiętaj, że nie należy przekazywać informacji poufnych ani danych wrażliwych. W przeciwieństwie do czatów ze znajomymi wszystkie wiadomości z rozmów z My AI są zachowywane, o ile nie postanowisz ich usunąć. Wiadomości mogą zostać wykorzystane do poprawy produktów Snapa oraz personalizacji, w tym reklam.
Odpowiedzi My AI są czasami ograniczone do najnowszych informacji w danych treningowych odpowiednich modeli. Oznacza to, że odpowiedzi My AI dotyczące najnowszych wiadomości i wydarzeń mogą nie być aktualne. My AI może również w stosownych przypadkach unikać niektórych wrażliwych tematów.