My AI to eksperymentalny i przyjazny chatbot dla Snapchatterów.
Nasze podejście do bezpieczeństwa SI
Bardzo nam zależy na bezpieczeństwu i dobrym samopoczuciu naszej społeczności. Chcemy odzwierciedlić to za pomocą naszych produktów. My AI wykorzystuje duże modele językowe, takie jak modele GPT firmy OpenAI oraz Gemini firmy Google. Trening My AI został przeprowadzony z wykorzystaniem różnorodnych tekstów, zastosowano dodatkowe ulepszenia bezpieczeństwa i elementy sterujące Snapchata. Została ona zaprogramowana do przestrzegania określonych wytycznych, więc podawane przez nią informacje nie są szkodliwe (unika odpowiedzi będących brutalnymi, pełnymi nienawiści, pełnymi treści seksualnych lub noszącymi inne znamiona niebezpieczeństwa, a ponadto nie utrwala krzywdzących uprzedzeń). Warto jednak pamiętać, że te odpowiedzi nie zawsze będą dokładne.
Wyposażyliśmy ją w te same zabezpieczenia i narzędzia, których używamy na Snapchacie. My AI blokuje również wyniki dotyczące słów kluczowych o narkotykach oraz slangu. Co więcej, jeśli Snapchatterzy będą wyszukiwać gdziekolwiek na Snapchacie informacje związane ze zdrowiem psychicznym, otrzymają źródła przekazane przez organizacje eksperckie. To narzędzie o nazwie Here For You pojawi się w czatach z My AI.
Pracujemy również nad dodatkowymi narzędziami dla naszego Centrum Rodziny, które zapewnią rodzicom większą kontrolę nad korzystaniem z My AI przez ich nastoletnie dzieci.
Opinia
Podobnie jak w przypadku innych technologii uczenia maszynowego oraz sztucznej inteligencji, chatboty z użyciem AI poprawiają się wraz z częstotliwością ich używania. Zachęcamy Snapchatterów do przesyłania opinii, zwłaszcza jeśli coś będzie działało niewłaściwie. Będziemy mogli wówczas współpracować z OpenAI, aby rozwijać tę technologię.
Snapchatterzy mogą w łatwy sposób wysłać opinię naszemu zespołowi. Wystarczy przytrzymać dowolną odpowiedź My AI, aby dać nam wskazówki w kwestii szkolenia naszego chatbota.
Aby zgłosić czat z My AI...
- Naciśnij i przytrzymaj odpowiedź na czacie i stuknij „Zgłoś”
- Powiadom nas, dlaczego zgłaszasz ten czat
- Stuknij „Prześlij”
Dezinformacja i tematy kontrowersyjne
My AI wykorzystuje duże modele językowe, takie jak modele GPT firmy OpenAI oraz Gemini firmy Google. Trening My AI został przeprowadzony z wykorzystaniem różnorodnych tekstów, zastosowano dodatkowe ulepszenia bezpieczeństwa i elementy sterujące Snapchata. Grupa ta miała na celu odzwierciedlenie różnorodność informacji dostępnych w Internecie, w tym dezinformacji oraz tematów kontrowersyjnych.
Procedura szkoleniowa została skonstruowana z myślą o unikaniu potęgowania szkodliwych lub niedokładnych informacji. Ponadto model został dostosowany do redukcji stronniczości językowej oraz traktowania priorytetowo faktów. Warto jednak pamiętać, że może on nie zawsze prawidłowo wywiązywać się z tego zadania. Oprócz tego firma Snap wyposażyła My AI w dodatkowe cechy i funkcje bezpieczeństwa charakterystyczne dla Snapchata
Ograniczenia My AI
Nieustannie pracujemy nad udoskonaleniem i ewolucją My AI, ale możliwe, że jej odpowiedzi będą zawierały stronnicze, niepoprawne, szkodliwe lub wprowadzające w błąd treści. My AI jest funkcją rozwijającą się, więc należy samodzielnie weryfikować każdą jej odpowiedź przed zastosowaniem się do przedstawionej przez nią rady. Dodatkowo pamiętaj, że nie należy przekazywać informacji poufnych lub danych wrażliwych. W przeciwieństwie do czatów ze znajomymi wszystkie wiadomości z rozmów z My AI są zachowywane, o ile nie postanowisz ich usunąć. Mogą one zostać wykorzystane do poprawy produktów Snapa oraz personalizacji, w tym reklam.
Odpowiedzi My AI są czasami ograniczone do najnowszych informacji w danych treningowych odpowiednich modeli. Oznacza to, że odpowiedzi My AI dotyczące najnowszych wiadomości i wydarzeń mogą nie być aktualne. My AI może również unikać niektórych wrażliwych tematów w stosownych przypadkach.