Apple Intelligence ne sera pas sans erreurs, prévient Tim Cook
Apple Intelligence a surpris le monde après une présentation impressionnante à la WWDC 2024. L'intelligence artificielle d'Apple sera présente sur ses appareils les plus populaires pour alimenter une multitude de nouvelles fonctions et améliorer celles existantes. Compte tenu de cela, Beaucoup se demandent si des incidents similaires à ceux que nous avons vus sur ChatGPT se produiront. ou Gemini, où l'IA a perdu le contrôle au bout d'un moment.
Tim Cook, PDG d'Apple, a déclaré que cela pourrait arriver. Dans une interview au journal Washington Postle patron d'Apple a déclaré que Apple Intelligence pourrait halluciner, même s'ils ont déjà agi. Cook pense que son intelligence artificielle sera fiable, même s'il a clairement indiqué que des erreurs pouvaient survenir.
« Ce n'est pas à 100% (sans hallucinations), mais je pense que nous avons fait tout ce que nous savons faire. Y compris réfléchir très profondément à la disponibilité de la technologie dans les domaines où nous l'utilisons », a déclaré Cook, » Je suis sûr que ce sera de très haute qualité, mais je dirais en toute honnêteté que c'est moins de 100 %. Je ne dirais jamais que c'est 100 %.
Le hallucinations sont un phénomène qui se produit dans les grands modèles de langage (LLM) où L'IA produit un résultat qui n'a aucun sens. Cela peut être dû à la complexité du modèle ou à des biais ou à des inexactitudes dans les données d'entraînement. Cela se produit également lorsque l'algorithme s'adapte trop étroitement à ses données d'entraînement et ne permet pas au modèle de faire des prédictions à partir d'autres données.
Le cas le plus évident est celui de Bing — propulsé par ChatGPT — qui a « perdu la tête » quelques jours après son lancement. L’IA fournissait des réponses erronées ou menaçantes lorsque les discussions duraient trop longtemps.
Apple a mis des garanties dans Apple Intelligence
L’une des caractéristiques essentielles d’Apple Intelligence est qu’elle est conçue pour être personnelle et privée. Tim Cook a mentionné à la WWDC qu'une partie importante de son traitement d'IA se produit sur l'appareil, tandis que les tâches exécutées dans le cloud sont protégées via le système Private Cloud Compute. Ce dernier traite les demandes sans stocker de données personnelles.
Compte tenu des risques posés par la technologie, Tim Cook était optimiste et s'est dit enthousiasmé par ce que l'intelligence artificielle peut réaliser. Bien entendu, sans laisser de côté les barrières de protection.
« Je suis enthousiaste à l'idée d'aider les gens à faire les choses plus rapidement, mieux et avec une meilleure qualité. Et je crois que l'IA peut y parvenir, à condition que les garanties soient correctement maintenues », a déclaré le patron d'Apple. « Je sais qu'un certain nombre de choses horribles peuvent également arriver, c'est pourquoi nous nous engageons à être réfléchis dans cet espace. »
Apple Intelligence sera disponible en version bêta cet été, même s'il pourrait arriver limité dans sa phase bêta. Un rapport de Macrumeurs suggère qu'Apple pourrait activer une liste d'attente pour accéder à certaines fonctions de son intelligence artificielle.
