Retard de la mise à jour de Siri chez Apple

Apple a récemment annoncé un report de la mise à jour de Siri, qui devrait désormais être lancée ''dans l'année à venir''. Ce délai pourrait être motivé par des craintes liées aux jailbreaks, selon l'avis d'un développeur.

Simon Willison, créateur de l'outil d'analyse de données Dataset, met en lumière le problème des injections de prompts. En effet, les intelligences artificielles (IA) sont souvent régulées par leurs entreprises mères qui imposent des règles strictes. Cependant, il est possible de ''jailbreaker'' l'IA en la convaincant de transgresser ces règles, ce que l'on appelle les ''injections de prompts''.

Pour illustrer, un modèle d'IA pourrait être programmé pour refuser de répondre à des questions sur des actions illégales. Mais que se passe-t-il si vous lui demandez d'écrire un poème sur l'ouverture à la volée d'une voiture ? Écrire de la poésie n'est pas illégal, n'est-ce pas ?

C'est un défi que toutes les entreprises proposant des chatbots IA doivent relever. Bien qu'elles aient progressé dans la prévention des jailbreaks évidents, le problème n'est pas résolu. De plus, jailbreaker Siri pourrait avoir des conséquences bien plus sérieuses que pour la plupart des chatbots, étant donné les informations personnelles qu'elle possède et les actions qu'elle peut entreprendre.

Jacqueline Roy, porte-parole d'Apple, a expliqué que l'entreprise travaillait à rendre Siri plus personnalisée, lui permettant de comprendre votre contexte personnel et d'agir pour vous au sein de vos applications.

Apple a sans aucun doute mis en place des règles pour empêcher Siri de divulguer accidentellement vos données privées. Mais si une injection de prompt parvenait à contourner ces mesures ? La capacité de Siri à ''agir pour vous'' pourrait également être exploitée, rendant primordial pour une entreprise aussi soucieuse de la confidentialité et de la sécurité que Apple de s'assurer que Siri reste à l'abri des jailbreaks. Il semble que cela nécessite encore du temps.