方惠琳 军人权利中心国防监视组组长
在撰写硕士论文之前，笔者曾在一家专门应对数字性暴力的机构里做过一段时间的合同工。笔者的工作是逐一搜索被分配到的非法拍摄物，如果发现有相关帖子，就请求网站管理员删除这些内容。然而，这些非法拍摄物的搜索和删除工作并不像人们通常想象的那样由高度发达的人工智能自动识别受害者的脸部、列出发布网站并自动发出删除请求。事实上，员工们需要将接收到的视频逐帧分解，然后将分解出的图像逐一进行单独搜索，将发布这些内容的网站地址逐一整理到Excel表格中，接着为了证据收集而保存网站截图，最后找到网站管理员的邮箱或联系渠道，把“此视频为性犯罪拍摄物，请务必将其删除，如果不删除，韩国政府可能会根据相关法律采取措施”这一内容翻译成英文并发送邮件。工作人员每天要反复100到200次这样的操作。笔者把这个过程称为“看似高度发达，实则与给泰迪熊缝眼睛没什么区别的手工式非法拍摄物删除协议”。
数字性暴力最大的敌人是“无边无际的恐惧”。工作人员们坐在屏幕前，根本无法估量在这广阔的互联网世界中，非法拍摄物究竟传播到了何处。有时工作人员们费尽心思找到了某张照片，删除了20个帖子，但第二天却发现已经增加到了40个。传播非法拍摄物的网站为了应对网站被关停，常常将同一个页面复制到多个域名下。此外，大部分网站都以外国服务器为据点，哪怕工作人员们用韩国政府的名义发送请求删除的邮件，如果他们选择无视，那也就无计可施了。
无边无际的恐惧不仅限于传播和复制。近年来兴起的深度伪造(Deepfake)性暴力其实早就存在，曾被称为“熟人凌辱”型犯罪。不同的是，以前制作者需要“手工”剪切拼贴图像，难度高且费时，而如今凭借人工智能这一新武器，任何人都能轻而易举地在几秒钟内制作出各种形式的视频或图片。令人恐惧的是，只要能从社交网络上获取照片，受害者就可以被随机选中。因为这只是人工智能制作的“伪造品”，所以在施暴者的意识中会认为自己可以与对真正的人造成伤害的犯罪意识脱离开来。深度伪造赋予了施暴者一种控制感，他们会认为，“我可以从你的Instagram上收集所有照片，制作出100个你会觉得羞耻的视频，这不是什么难事。但那又怎样，这又不是真的你”，并使这些视频迅速传播开来。深度伪造大大加快了数字性暴力物的再生产周期，少数几个应对机构的员工根本无法跟上这一速度。由于无法忍受这种无边的恐惧，工作人员们纷纷离职，而这些空缺又被短期合同工再次填补上。
在国会科学技术信息通信委员会的会议上，改革新党议员李俊锡曾强调深度伪造聊天室的用户数达到22万人是“被夸大的威胁”，并推算称按Telegram的韩国用户比例来看，实际人数可能只有726人。
但不论用户数是22万还是726，这重要吗？笔者想问李俊锡议员，只要是下定决心，726人甚至7.26人就能用深度伪造技术制作出20万个视频，并不分地域地无限复制传播，也许在互联网的某个角落里，这些内容永远无法被删除。这才是数字性暴力的本质，无论人数是22万、726，还是只有10人，这种犯罪的能力都不会改变。请问在你看来，多少人参与才算不上“夸大”，才能算是适当的数量呢？