Utilisation principale de la technologie dans l'exploitation de l'abus sexuel infantile

--- English Transcript --- I am worried about generative AI. I am worried how generative AI is going to pollute the information ecosystem across the board. I'm concerned that children younger and younger are getting on the internet, on mobile, on social media, and that age keeps going down, and I don't think we're ready for that. I'm worried about just the, I'm worried about, like, their safety. So from child sexual abuse to extortion. Here are some of the awful things we've been seeing recently where people will take an image of a child, put it into explicit material, and then send it to them and saying, if you don't do A, B, C, I will distribute this. And here's the thing you have to understand about this whole generative AI space, is that it's sitting on top of this privacy invading social media. So when somebody wants to attack somebody, they have a phenomenal amount of information about them. They know where you live, they know who your parents are, they know your friends. They know where you go to school. They have all this information about you, and so they can target you in really specific ways. And so I'm really worried about that highly targeted aspect. Here's the other thing too, is that it used to take hands on a keyboard to do this, but now it doesn't. You unleash a chat bot to attack millions of kids, and you can have chatbots doing this. You can have basically ChatGPT trying to engage thousands, millions of kids simultaneously. And so now you're not limited by hands on a keyboard. I think that's really dangerous. I think we've been doing an experiment for the last 20 years on an entire generation to now, in terms of putting - I lost my device, thank God - putting these devices in their face 18 hours a day, and I think we are gonna wake up pretty soon and think, oh man, that was not a great experiment. We've really done some damage. And I can tell you, as a college professor, I have seen entire generations come through and you can see the impact of these technologies on these kids. I don't think-- The time for debate is long over now. Like these are having a, a really negative impact. Lots of great things have come from technology. We should figure out how to harness it. But pretending somehow that there isn't harm, I think is, we're just deluding ourselves. --- French Transcript --- L'IA générative me préoccupe. Je m'inquiète de la façon dont l'IA générative va polluer l'écosystème de l'information de manière générale. Je suis préoccupé par le fait que des enfants de plus en plus jeunes se connectent à Internet, sur le mobile sur les médias sociaux, et que l'âge ne cesse de baisser, et je ne pense pas que nous soyons prêts pour cela. Je suis inquiet pour leur sécurité. Et cela va des abus sexuels d'enfants à la sextorsion. Voici quelques exemples horribles observés récemment où des personnes prennent l'image d'un enfant, l'insère dans un matériel explicite, puis l'envoient à l'enfant en lui disant : « Si tu ne fais pas ceci-cela je la distribuerai. » Et ce qu'il faut comprendre à propos de cet espace d'IA générative, c'est qu'elle est installée sur ces médias sociaux qui envahissent la vie privée. Quand quelqu'un veut attaquer quelqu'un, il dispose d'une quantité phénoménale d'informations à son sujet. Il sait où vous vivez, il sait qui sont vos parents, il connaît vos amis. Il sait où vous allez à l'école. Il détient toutes ces informations sur vous, et il peut donc vous cibler de manière très spécifique. Et c'est ce ciblage qui m'inquiète vraiment. L'autre aspect, c'est qu'avant, il fallait taper sur un clavier pour faire cela, mais désormais ce n'est plus nécessaire. Vous lancez un chatbot pour attaquer des millions d'enfants, et vous pouvez avoir des chatbots qui s'en occupent. Vous pouvez avoir ChatGPT qui essaie de communiquer avec des milliers, des millions d'enfants simultanément. Et maintenant, vous n'êtes plus limité par les mains sur un clavier. Je pense que c'est vraiment dangereux. Je pense que nous avons lancé une expérimentation il y a 20 ans de cela jusqu'à aujourd'hui, sur une génération entière, en mettant - j'ai perdu mon appareil, Dieu merci - en leur mettant ces appareils sous leurs yeux 18 heures par jour, et je pense que nous allons bientôt nous réveiller et nous nous dirons : « Bon sang, qu'avons-nous fait ? » On a vraiment causé des dégâts. Et je peux vous dire, en tant que professeur d'université, que j'ai vu des générations entières passer et vous pouvez voir l'impact de ces technologies sur ces enfants. Je ne pense pas... Le temps du débat est révolu depuis longtemps. Elles ont un impact vraiment négatif. La technologie a apporté beaucoup de bonnes choses. Nous devrions trouver un moyen de l'exploiter. Mais prétendre d'une manière ou d'une autre qu'elle est inoffensive, je pense que nous nous faisons des illusions. --- French Transcript --- L'IA générative me préoccupe. Je m'inquiète de la façon dont l'IA générative va polluer l'écosystème de l'information de manière générale. Je suis préoccupé par le fait que des enfants de plus en plus jeunes se connectent à Internet, sur le mobile sur les médias sociaux, et que l'âge ne cesse de baisser, et je ne pense pas que nous soyons prêts pour cela. Je suis inquiet pour leur sécurité. Et cela va des abus sexuels d'enfants à la sextorsion. Voici quelques exemples horribles observés récemment où des personnes prennent l'image d'un enfant, l'insère dans un matériel explicite, puis l'envoient à l'enfant en lui disant : « Si tu ne fais pas ceci-cela je la distribuerai. » Et ce qu'il faut comprendre à propos de cet espace d'IA générative, c'est qu'elle est installée sur ces médias sociaux qui envahissent la vie privée. Quand quelqu'un veut attaquer quelqu'un, il dispose d'une quantité phénoménale d'informations à son sujet. Il sait où vous vivez, il sait qui sont vos parents, il connaît vos amis. Il sait où vous allez à l'école. Il détient toutes ces informations sur vous, et il peut donc vous cibler de manière très spécifique. Et c'est ce ciblage qui m'inquiète vraiment. L'autre aspect, c'est qu'avant, il fallait taper sur un clavier pour faire cela, mais désormais ce n'est plus nécessaire. Vous lancez un chatbot pour attaquer des millions d'enfants, et vous pouvez avoir des chatbots qui s'en occupent. Vous pouvez avoir ChatGPT qui essaie de communiquer avec des milliers, des millions d'enfants simultanément. Et maintenant, vous n'êtes plus limité par les mains sur un clavier. Je pense que c'est vraiment dangereux. Je pense que nous avons lancé une expérimentation il y a 20 ans de cela jusqu'à aujourd'hui, sur une génération entière, en mettant - j'ai perdu mon appareil, Dieu merci - en leur mettant ces appareils sous leurs yeux 18 heures par jour, et je pense que nous allons bientôt nous réveiller et nous nous dirons : « Bon sang, qu'avons-nous fait ? » On a vraiment causé des dégâts. Et je peux vous dire, en tant que professeur d'université, que j'ai vu des générations entières passer et vous pouvez voir l'impact de ces technologies sur ces enfants. Je ne pense pas... Le temps du débat est révolu depuis longtemps. Elles ont un impact vraiment négatif. La technologie a apporté beaucoup de bonnes choses. Nous devrions trouver un moyen de l'exploiter. Mais prétendre d'une manière ou d'une autre qu'elle est inoffensive, je pense que nous nous faisons des illusions. --- Spanish Transcript --- Me preocupa la IA generativa. Me preocupa cómo la IA generativa contaminará el ecosistema informativo en todos lados. Me preocupa que los niños entran a Internet cada vez más jóvenes, en móviles, redes sociales y la edad sigue bajando y no creo que estemos listos para eso. Me preocupa solo que, me preocupa su seguridad. Desde abuso sexual infantil hasta extorsión. Estas son algunas de las cosas horribles que hemos visto recientemente donde una persona toma una imagen de un niño o niña, la coloca en material explícito y después la envía y dice, si no haces A, B, C, la distribuiré. Esto es lo que debes comprender de todo el espacio de IA generativa, que está en la cima de las redes sociales que invaden la privacidad. Cuando una persona desea atacar a alguien, tiene una cantidad fenomenal de información sobre él. Sabe dónde vive, sabe quiénes son sus padres, conoce a sus amigos. Sabe donde va a la escuela. Tiene toda esta información sobre él y puede atacarte en maneras realmente específicas. Realmente me preocupa ese aspecto sumamente específico. Aquí hay otro aspecto, antes para hacerlo se necesitaba poner las manos en el teclado, pero ya no. Liberas un chat bot para atacar a millones de niños y los chatbots pueden hacerlo. Básicamente puedes tener a ChatGPT intentando comunicarse con miles, millones de niños simultáneamente. Ahora ya no estás limitado por el teclado. Considero que esto es realmente peligroso. Creo que hemos estado haciendo un experimento durante los últimos 20 años sobre una generación entera y ahora, como diría - Perdí mi dispositivo, gracias a Dios - hemos puesto estos dispositivos en sus rostros 18 horas al día y creo que nos despertaremos muy pronto y pensaremos: oh Dios, no fue un buen experimento. Realmente hemos hecho daño. Puedo decir, como profesor universitario, que he visto generaciones enteras pasar y puedes ver el impacto de estas tecnologías en los más jóvenes. No creo -- El tiempo del debate ya a pasado. Está teniendo un impacto realmente negativo. La tecnología ha producido muchas cosas geniales. Debemos descubrir como utilizarla. Pero pretender que, de alguna manera, no es perjudicial es simplemente engañarnos a nosotros mismos.