Addressing child sexual exploitation and abuse online: Australia’s eSafety model

--- English Transcript --- Our unique approach delivers significant benefits for Australians. We believe it also makes us a valuable international partner and a useful model for other jurisdictions looking to establish more effective online safety regulation. One of the key reasons for this is that we address immediate harms alongside the societal issues that fuel them. We work at every level from the personal right up to the industrial. This lends a greater coherence to our overall approach, allowing us to apply data and insights gathered from one area — individual complaints, for example — to work in another, such as industry regulation. I'd like to share some of the lessons that we've learned. So, what is our model and how does it work? Well, it comprises three key elements: prevention, protection, and proactive and systemic change. Prevention is the bedrock on which we build a safer, more resilient society. Our mission is to foster sweeping changes in attitudes, behaviors, and culture. We achieve this through education, enhancing capabilities, raising awareness, and creating valuable resources all underpinned by solid research and data and co-design. Protection is our shield. It is how we respond to cries for help, how we alleviate the suffering caused by image-based abuse, child cyber bullying, and adult cyber abuse. Our complaint schemes and investigative powers are lifelines for people in need. We're also part of a global effort to combat child sexual abuse material and pro-terror content. But we won't stop there. We are committed to lasting change, making sure the industry steps up and that safety is woven into the fabric of online platforms. Our proactive and systemic change efforts include safety by design, mandatory industry codes and standards, and enforcing the Basic Online Safety Expectations. None of this would be possible without strong partnerships. Our collaboration with governments, regulators, law enforcement agencies, and NGOs around the world are vital to our success. Together, we are formidable against those who seek to harm children. Much of the discourse surrounding legislative efforts in the US centers on censorship and first amendment rights. So I'd like to emphasize that eSafety operates without impinging upon a free speech. Rather, we champion transparency and accountability. In essence, we function as a safety net by taking reports from the public about online harms. Like the NCMEC CyberTipline, eSafety is Australians' INHOPE hotline. However, in addition to reports about CSAM, we also work directly with children and adults targeted by online abuse, harassment, and harms such as image-based abuse. We do not monitor the internet, nor is our mandate surveillance. However, we do step in when platforms and services fall short of their responsibilities to protect people, when the mechanisms we all expect to be in place fail. The Online Safety Act of 2021, arms eSafety with a powerful mandate underpinned by the Basic Online Safety Expectations. These expectations are not mere guidelines. They are a clarion call to action for social media, giants, messaging, services, gaming and other platforms. They demand that these entities take concrete, measurable steps to shield our children from the evils that lurk online. Under the robust framework of the Online Safety Act, eSafety has the authority to demand transparency and accountability from the tech titans. We can now compel them to disclose how they are tackling the dark tide of child sexual exploitation. And let me be clear, this is not a request. It is an enforceable obligation backed by the full weight of civil penalties. Since the inception of the expectations, we've issued two rounds of transparency notices focused solely on child sexual exploitation and abuse. The first set of notices went to Apple, Meta, Microsoft, Omegle, and Snap in August 2022. The second set, in February 2023, to Google, Twitter (now X), TikTok, Twitch, and Discord. We asked probing questions, seeking to uncover the various sinews of their efforts against child sexual exploitation; questions about their tools, their policies, and their processes to combat this heinous crime. Then we published two transparency reports summarizing the responses, laying bare the findings for all to see. --- French Transcript --- Notre approche unique offre des avantages significatifs pour les Australiens. Nous pensons qu'elle fait également de nous un partenaire international précieux et un modèle utile pour d'autres juridictions qui cherchent à mettre en place une réglementation plus efficace en matière de sécurité en ligne. L'une des principales raisons en est que nous nous attaquons aux préjudices immédiats ainsi qu'aux problèmes sociétaux qui les alimentent. Nous travaillons à tous les niveaux, du niveau individuel au niveau industriel. Cela confère une plus grande cohérence à notre approche globale, et nous permet d'appliquer les données et des informations recueillies dans un domaine - les plaintes individuelles, par exemple - pour travailler dans un autre domaine, tel que la réglementation du secteur. J'aimerais vous faire part de quelques-unes des leçons tirées de cette expérience. Quel est donc notre modèle et comment fonctionne-t-il ? Eh bien, il comprend trois éléments clés : la prévention, la protection et le changement proactif et systémique. La prévention est le fondement sur lequel nous construisons une société plus sûre et plus résiliente. Notre mission est de favoriser des changements radicaux dans les attitudes, les comportements et la culture. Nous y parvenons par l'éducation, le renforcement des capacités, une sensibilisation accrue et la création de ressources précieuses, le tout étayé par de solides recherches et données et par la co-conception. La protection est notre bouclier. C'est ainsi que nous répondons aux appels à l'aide, que nous atténuons les souffrances émanant des abus fondés sur l'image, de la cyberintimidation des enfants et de la cyberintimidation des adultes. Nos systèmes de plainte et nos pouvoirs d'investigation sont des bouées de secours pour les personnes dans le besoin. Nous participons également à un effort mondial pour lutter contre les matériels pédopornographiques et les contenus soutenant le terrorisme. Mais nous ne nous arrêtons pas là. Nous nous engageons à apporter un changement durable, en veillant à ce que le secteur prenne des mesures et que la sécurité soit intégrée dans le tissu des plateformes en ligne. Nos efforts proactifs et systémiques de changement comprennent la sécurité dès la conception, des codes et des normes obligatoires pour le secteur, et l'application des Attentes fondamentales en matière de sécurité en ligne. Rien de tout cela ne serait possible sans de solides partenariats. Notre collaboration avec les gouvernements, les régulateurs, les organismes chargés de l'application de la loi et les ONG du monde entier est essentielle à notre réussite. Ensemble, nous sommes redoutables face à ceux qui cherchent à nuire aux enfants. Une grande partie du discours entourant les efforts législatifs aux États-Unis se concentre sur la censure et les droits du premier amendement. J'aimerais donc souligner qu'eSafety fonctionne sans empiéter sur la liberté d'expression. Au contraire, nous défendons la transparence et la responsabilité. En substance, nous agissons comme un filet de sécurité en recueillant les signalements du public sur les préjudices subis en ligne. Comme la CyberTipline du NCMEC, eSafety est la ligne d'assistance INHOPE pour les Australiens. Cependant, en plus des signalements concernant le CSAM, nous travaillons aussi directement avec des enfants et des adultes qui sont la cible d'abus, de harcèlement et de préjudices tels que les abus fondés sur l'image. Nous ne surveillons pas l'Internet, et notre mandat n'est pas non plus la surveillance. Toutefois, nous intervenons lorsque les plateformes et les services n'assument pas leurs responsabilités de protéger les personnes et lorsque les mécanismes que nous espérons tous voir fonctionner sont défaillants. La loi sur la sécurité en ligne de 2021 confère à eSafety un mandat puissant étayé par les Attentes fondamentales en matière de sécurité en ligne. Ces attentes ne sont pas de simples lignes directrices. Elles constituent un appel à l'action pour les médias sociaux, les géants, les plateformes de messagerie, de services, de jeux et autres. Elles exigent de ces entités qu'elles prennent des mesures concrètes et mesurables pour protéger nos enfants des maux qui rôdent en ligne. Dans le cadre solide de la Online Safety Act, eSafety a l'autorité nécessaire pour exiger la transparence et la responsabilité de la part des géants de la technologie. Nous pouvons désormais les obliger à divulguer comment ils s'attaquent à la marée noire de l'exploitation sexuelle des enfants. Et permettez-moi d'être claire : ici, il ne s'agit pas d'une demande. Il s'agit d'une obligation exécutoire par le poids des sanctions civiles. Depuis la création des attentes, nous avons publié deux séries d'avis de transparence axés uniquement sur l'exploitation et les abus sexuels sur les enfants. La première série d'avis a été adressée à Apple, Meta, Microsoft, Omegle et Snap en août 2022. La deuxième série, en février 2023, a été adressée à Google, Twitter (désormais X), TikTok, Twitch et Discord. Nous avons posé des questions pointues, cherchant à découvrir tous les efforts qu'ils avaient mis en place contre l'exploitation sexuelle des enfants ; des questions sur leurs outils, leurs politiques, et leurs processus de lutte contre ce crime odieux. Nous avons ensuite publié deux rapports de transparence résumant les réponses et exposant les résultats à la vue de tous. --- Spanish Transcript --- Nuestro enfoque único presenta beneficios importantes para los australianos. También considero que nos convierte en un socio internacional valioso y en un modelo útil para otras jurisdicciones que buscan establecer normas de seguridad en línea más efectivas. Uno de los principales motivos es que abordamos los peligros inmediatos junto con los problemas de la sociedad que los alimenta. Trabajamos en todos los niveles, del personal hasta el sectorial. Esto proporciona mayor coherencia al enfoque general y nos permite aplicar datos e información recopilados en un área, las denuncias individuales por ejemplo, para trabajar en otra, como la regulación del sector. Deseo compartir algo de lo que he aprendido. ¿Cuál es nuestro modelo y cómo funciona? Comprende tres elementos clave: prevención, protección y cambio proactivo y sistemático. La prevención es el cimiento sobre el que se construye una sociedad más segura y resiliente. Nuestra misión es promover cambios radicales en las actitudes, conductas y la cultura. Esto se logra mediante educación, mejora de capacidades, concienciación y creación de recursos valiosos con base en investigación y datos sólidos y codiseño. La protección es nuestro escudo. Es como respondemos a los pedidos de ayuda, como atenuamos el sufrimiento ocasionado por el abuso basado en imágenes, el ciberacoso a menores y el ciberabuso de adultos. Nuestros esquemas de denuncia y postestades de investigación son el sustento para las personas necesitadas. También somos parte del esfuerzo internacional para combatir el material de abuso sexual infantil y el contenido proterrorismo. Pero no nos detenemos allí. Nuestro compromiso es un cambio duradero, garantizando que el sector de un paso al frente y que la seguridad sea parte integral de las plataformas en línea. Nuestros esfuerzos de cambio proactivo y sistemático incluyen seguridad en el diseño, códigos y normas del sector obligatorios y exigir las Basic Online Safety Expectations. Nada de esto sería posible sin asociaciones sólidas. Nuestra colaboración con gobiernos, organismos reguladores, organismos de seguridad, y ONG de todo el mundo es esencial para el éxito. Juntos, somos temibles frente a quienes buscan dañar a los menores. Gran parte del discurso en los esfuerzos legislativos en EE. UU. se centra en la censura y los derechos de la primera enmienda. Por ello, deseo enfatizar que eSafety funciona sin menoscabar la libertad de expresión. En cambio, abogamos por la transparencia y responsabilidad. En esencia, funcionamos como una red de seguridad al recibir denuncias del público acerca de los peligros en línea. Como la CyberTipline de NCMEC, eSafety es la línea de ayuda de INHOPE en Australia. No obstante, además de los informes sobre CSAM, también trabajos directamente con menores y adultos objetivo de abuso, acoso y peligros en línea, como el abuso basado en imágenes. No monitorizamos Internet ni la vigilancia es nuestra obligación. Sin embargo, intervenimos cuando las plataformas y los servicios no cumplen con su responsabilidad de proteger al público, cuando fallan los mecanismos que deben estar implementados. Online Safety Act de 2021, dota a eSafety con una obligación potente respaldada por las Basic Online Safety Expectations. Estas Expectations no son una mera orientación. Son un claro llamamiento a la acción de las plataformas gigantes, de redes sociales, mensajería, servicios, apuestas y otras. Exigen que estas entidades tomen medidas concretas y cuantificables para proteger a nuestros menores de los peligros que acechan en línea. Con el marco sólido de Online Safety Act, eSafety tiene la potestad de exigir transparencia y responsabilidad a los titanes tecnológicos. Ahora podemos obligarles a divulgar cómo abordan la marea oscura de la explotación sexual infantil. Seamos claros, no es un pedido. Es una obligación exigible respaldada por todo el peso de las sanciones civiles. Desde la adopción de las Expectations, hemos emitido dos rondas de avisos de transparencia centrados únicamente en el abuso y la explotación sexual infantil. El primer conjunto de avisos se envió a Apple, Meta, Microsoft, Omegle y Snap en agosto de 2022. En febrero de 2023, el segundo conjunto se envió a Google, Twitter (ahora X), TikTok, Twitch y Discord. Formulamos preguntas exploratorias para desvelar las distintas líneas de sus esfuerzos contra la explotación sexual infantil; preguntas acerca de sus herramientas, políticas y procesos para combatir este atroz delito. A continuación, publicamos dos informes de transparencia que resumen las respuestas para que todos puedan conocer los resultados.