Opóźnienie w aktualizacji Siri przez Apple

Apple oficjalnie opóźniło aktualizację Siri, która miała przynieść ulepszenia w sztucznej inteligencji. Zgodnie z nowymi informacjami, zmiany te mają się pojawić w nadchodzącym roku. Zdaniem jednego z deweloperów, powód opóźnienia jest powiązany z obawami przed tak zwanym jailbreakiem.

Simon Willison, twórca narzędzia do analizy danych Dataset, wskazuje na problem tzw. "prompt injections", które mogą spowodować, że sztuczna inteligencja złamie narzucone jej zasady. Firmy kontrolują swoje AI poprzez wprowadzenie określonych ograniczeń, ale istnieją metody, by zachęcić AI do ich łamania.

Na przykład, AI może być zaprogramowane, aby odmawiać odpowiedzi na pytania dotyczące działań nielegalnych. Jednak jeśli zapytasz AI o napisanie wiersza na temat kradzieży samochodu, czy to naprawdę będzie nielegalne? Przecież pisanie wierszy nie jest zakazane, prawda?

Tego rodzaju problem dotyczy wszystkich firm oferujących chatboty oparte na AI. Choć wiele z nich stara się skutecznie blokować oczywiste metody jailbreak, sytuacja wciąż nie jest rozwiązana. Co gorsza, jailbreak Siri może prowadzić do znacznie poważniejszych konsekwencji niż w przypadku innych chatbotów, z racji na osobiste dane, które zbiera oraz działania, które może wykonać. Jak opisała to rzeczniczka Apple, Jacqueline Roy:

„Pracujemy również nad bardziej spersonalizowanym Siri, który lepiej rozumie Twój osobisty kontekst oraz potrafi podejmować działania za Ciebie w aplikacjach.”

Apple z pewnością wprowadziło zasady, aby zapobiec przypadkowemu ujawnieniu Twoich danych osobowych przez Siri. Jednak co się stanie, gdy prompt injection zadziała wbrew tym zasadom? Możliwość wykonywania działań w Twoim imieniu także może zostać wykorzystana w sposób nieetyczny, dlatego dla firmy, która tak bardzo dba o prywatność jak Apple, niezwykle ważne jest, aby Siri nie mogło zostać złamane. Wygląda na to, że doprowadzenie do tej sytuacji zajmie czas.