RÉSUMÉ ANALYTIQUE:
Alors que la révolution de l'IA continue de balayer le monde, l'outil ChatGPT d'OpenAI est devenu une force révolutionnaire dans le domaine du traitement du langage naturel. Avec des applications couvrant tous les secteurs et organisations, les possibilités semblent parfois illimitées.
Mais avec l'adoption généralisée des modèles de langage IA, du ChatGPT et des technologies adjacentes, les préoccupations concernant la confidentialité et la sécurité des données ont atteint leur paroxysme.
C'est pourquoi nous avons rassemblé les idées pratiques et les recommandations stratégiques de quatre professionnels de la cybersécurité de premier plan qui peuvent vous aider à protéger votre organisation contre les menaces potentielles posées par la nouvelle technologie.
Jonathan Fischbein est le Directeur mondial de la sécurité de l'information pour Check Point Software Technologies. Les RSSI de terrain Deryck Mitchelson, Cindi Carter et Pete Nicoletti couvrent les régions EMEA et Amériques pour l'entreprise. Lisez la suite pour en savoir plus sur leurs points de vue d'experts sur ce sujet essentiel.
“Les entreprises qui adoptent le pouvoir perturbateur de l'IA générative se retrouveront avec un avantage considérable. Cependant, ceux qui l'adoptent rapidement doivent atténuer les implications massives en matière de sécurité associées aux avantages.”
“Après une décision de l'équipe de direction sur l'autorisation ou non de ChatGPT (je soutiens et encourage personnellement l'adoption de l'IA), commencez par une approche simple et globale.
“Le fait que ChatGPT soit bloqué dans plusieurs pays est une preuve de méfiance quant à qui et comment les entités derrière les plateformes d'IA utiliseront les données. De telles plateformes sont nouvelles et souvent considérées comme le nouveau "jouet le plus cool" - Les gentils cherchent à en tirer parti pour en faire bon usage, tandis que les méchants l'utilisent déjà pour développer une nouvelle génération de campagnes cyber sophistiquées. Nous avons déjà été témoins d'un certain nombre de cas où la sécurité était très faible ou facilement contournée.
Du côté de la protection de la vie privée, c'est un autre défi. Il y a eu un cas où les recherches dans l'historique de ChatGPT étaient visibles par d'autres utilisateurs, ce qui montre bien sûr l'immaturité du nouveau jouet! Je crains que ce ne soit pas la dernière fois que nous entendons parler de mauvaises pratiques en matière de protection de la vie privée.”
"La réglementation fait défaut à tous les niveaux possibles. La récente décision de l'Italie de l'interdire est très intéressante, ce que je comprends mais que je ne soutiens pas. Nous comprenons que les exigences de la politique peuvent prendre un certain temps pour s'y habituer, mais elles sont essentielles à la protection de nos informations sensibles et au maintien de la confidentialité et de la sécurité de nos clients et employés.”
“L'intelligence artificielle est une technologie qui transforme tous les aspects de la vie. Il s'agit d'un outil de grande envergure qui permet aux particuliers et aux entreprises de repenser la manière dont nous intégrons les informations, analysons les données et utilisons les informations qui en résultent pour améliorer la prise de décision.”
“En tant que l'une des avancées technologiques les plus rapides, l'utilisation du ChatGPT d'OpenAI suscite de plus en plus d'inquiétudes quant aux implications en matière de confidentialité. Bien que les données ChatGPT soient collectées à partir de sources considérées comme accessibles au public, c'est la combinaison des entrées de l'utilisateur final qui met en danger les données professionnelles et personnelles sensibles. Même lorsque les données sont accessibles au public, leur utilisation peut compromettre ce que l'on appelle l'intégrité contextuelle. Il s'agit d'un principe fondamental dans les discussions juridiques sur la protection de la vie privée. Elle exige que les renseignements personnels ne soient pas révélés en dehors du contexte dans lequel ils ont été produits à l'origine. De plus, les données sur lesquelles ChatGPT a été formé peuvent être propriétaires ou protégées par des droits d'auteur.
OpenAI, la société derrière ChatGPT, n'offre aucune procédure permettant aux individus de vérifier si l'entreprise stocke leurs informations personnelles ou de demander leur suppression. Il s'agit d'un droit garanti conformément au Règlement Général Européen sur la Protection des Données (RGPD) —bien que la question de savoir si ChatGPT est conforme aux exigences du RGPD fasse toujours l'objet d'un débat. Ce " droit à l'oubli” est particulièrement important dans les cas où les informations sont inexactes ou trompeuses, ce qui peut être le cas.
Enfin, il est important de reconnaître que la croissance sans précédent de ChatGPT peut rendre la plate-forme particulièrement vulnérable, car ses créateurs se précipitent pour répondre à la demande...”
"Nous préparons la prochaine évolution numérique depuis de nombreuses années, et elle est enfin arrivée. Le battage médiatique de Siri, Cortana, Lyra et les chatbots qui ont déçu au mieux a été remplacé par une avancée qui façonnera l'interaction numérique pour la prochaine génération et au-delà. Les cas d'utilisation de ChatGPT sont illimités, cette technologie n'est pas réservée aux super-geeks, aux fanbois et à ceux qui souhaitent réussir leurs examens scolaires, elle sera rapidement intégrée dans tous les secteurs d'activité et services, notamment la santé, le juridique, l'architecture, le divertissement, la vente au détail, la technologie et la cybersécurité.”
“Comme pour toutes les technologies/innovations, les organisations doivent effectuer des évaluations détaillées des risques et des évaluations d'impact sur la confidentialité des données pour comprendre quelles données seraient traitées, où, par qui, dans quel but, les périodes de conservation et tout accord de partage de données...”
“Je ne suis pas surpris que les pays envisagent son utilisation appropriée, mais la rapidité de la réponse de l'Italie me surprend. On peut se demander si ChatGPT respecte pleinement la législation GDPR, en particulier le droit à l'oubli. Cependant, je ne suis pas sûr que l'interdiction de l'innovation soit la bonne chose à faire – nous avons besoin d'une gouvernance, d'une responsabilité et d'une transparence appropriées qui, espérons-le, les réglementations et la législation donneront des résultats.”
"J'ai cependant une préoccupation majeure concernant la propriété de ChatGPT et d'autres technologies d'IA similaires. Nous assistons à une manœuvre en tenaille de la part des fournisseurs de services Cloud pour contrôler de plus en plus de nos services, données, sécurité, automatisation, collaboration et maintenant IA. Je ne suis pas convaincu que cette quantité de pouvoir dans un si petit nombre de méga-sociétés soit une bonne chose, en particulier si nous demandons à ChatGPT de nous conseiller sur notre stratégie et nos décisions en matière de fournisseurs.”
"Tout d'abord, les RSSI doivent être très conscients de tous les problèmes et risques liés à leur activité et à l'ensemble des écosystèmes de l'entreprise et personnels. Forts de cette prise de conscience, ils doivent fournir des conseils et un leadership continus pour faire face à ces nouvelles opportunités et à leurs risques. De nombreux RSSI incluent des problèmes liés à l'IA dans leurs réunions hebdomadaires du personnel et donnent des conseils initiaux ainsi que des mises à jour au personnel de direction. Par exemple: ChatGPT et d'autres outils basés sur l'IA abaissent la barre pour les pirates, qui créent des e-mails de phishing très ciblés basés sur des informations de piratage précédentes combinées à des informations sur les réseaux sociaux. Les attaques trompent de nombreux utilisateurs finaux. Les membres du personnel de la Sécurité, de l'Informatique, du Réseau et du développement ainsi que du Marketing et des Ventes utilisent tous ChatGPT et cela doit être partagé et discuté lors des réunions dirigées par le RSSI...”
“Le besoin des RSSI de partager à la fois les avantages et les risques de l'utilisation de ChatGPT et des outils basés sur l'IA. Comme indiqué ci-dessus, il y a de nombreux avantages et avantages à tirer parti des outils basés sur l'IA. Ces informations doivent être suivies, documentées et partagées.
Les risques doivent également être suivis et partagés afin que tout le monde soit au courant des défis et des résultats négatifs....
Les RSSI devraient diriger la discussion et partager des politiques nouvelles et continuellement mises à jour et valider l'efficacité de la politique de manière continue. Ce n'est pas un problème qui peut être ignoré.”
Pour plus d'informations sur l'intelligence artificielle et la cybersécurité, s'il vous plaît voir CyberTalk.org couverture passée de. Enfin, consultez le CyberTalk.org infolettre! Inscrivez-vous dès aujourd'hui pour recevoir des articles de presse, des meilleures pratiques et des analyses d'experts de premier ordre.
Post Perspectives des RSSI sur ChatGPT: changeur de jeu ou menace pour la sécurité? apparu en premier sur CyberTalk.