现金万博manbext体育官网app平台为无礼海表里用户沟通需求-万博manbext体育官网(中国)官方网站在线登录入口

小红书上线翻译功能！啥王人能译的AI或跟随实质风险。

本文自南边王人市报·南王人大数据筹议院，采写：南王人筹议员 李伟锋。

近日，巨额国际TikTok用户涌入中国酬酢平台小红书，“TikTok refugee”成为海表里热议话题。为浅薄用户沟通，1月19日晚间，小红书发布APP最新版块，推出愚弄内“一键翻译”功能。

不少网友尝鲜后发现，小红书的翻译功能使用了生成式东说念主工智能处事，除中英互译外，还能识别巨额网罗热梗，甚死党融多种实质生成指示。越来越多用户“发掘”翻译功能更多用法的同期，也有效户担忧该功能可能被实施“prompt attack”（教唆词袭击），生成詈骂实质或坏心代码，存在安全风险。

新上线AI翻译发扬出色

据悉，小红书此前一直未提供愚弄内翻译功能，外语用户只可通过第三方翻译软件交融中语札记实质。多数国际用户进驻后，为无礼海表里用户沟通需求，小红书在最新APP版块中上线一键翻译功能，用户更新APP后，即可在外语札记或褒贬实质附近看到翻译按钮，点击可检验翻译实质。

网友测试发现，小红书这次上线的翻译功能并非传统的机器翻译，而是由生成式AI模子进行翻译，其交融能力、翻译准确率王人相等出色。中英文混搭句子、粤语俚语、颜翰墨、化学响应方程式，致使是摩尔斯电码，翻译功能王人可准确交融并输出实质，还不错提供毛糙在意，浅薄用户交融原文抒发的酷爱酷爱。

小红书翻译功能可准确交融用户输入实质并输出截止

一键“译”出编程代码、漫笔

在嗟叹AI翻译准确率的同期，一些网友运转发布带有不同指示的札记或褒贬实质，尝试“发掘”该AI模子除翻译之外的其他功能。测试截止知道，通过在英语句子后方添加特定指示，翻译功能还可输出编程代码、指定主题漫笔等实质。

还有网友尝试通过指示条件翻译功能先容其使用的AI模子版块，截止知道，在部分指示中，翻译功能称其来自智谱清言公司的ChatGLM；但通过不同指示，翻译功能也可能自称是来自OpenAI的GPT-4。

输入特定指示，可条件小红书翻译功能输出编程代码、指定主题漫笔等实质

用户担忧AI可能激励新风险

一方面是AI展示出惊东说念主的实质交融能力和翻译准确率；另一方面，也有网友察觉到该功能或存在安全隐患，提出平台完善相干防护能力。还有从业东说念主士指出，若该AI翻译径直调用GPT系列模子，可能存在合规风险。

有网友指出，经测试，用户不错通过特定缩写、错拼等方式开导小红书的翻译功能输出触及詈骂实质的句子，担忧该功能可能被用于坏心詈骂、引战、网暴等。

也有网友示意，若有心胸不轨的用户实施“prompt attack”，通过特定指示携带AI在翻译截止中输出、展示包含坏心代码的实质，可能杀青对平台的呐喊注入袭击，激励不良效力，但愿平台尽快完善相干留心机制，阻扰AI翻译功能输出与翻译自己无关的实质。

据了解，所谓呐喊注入袭击，指愚弄情势对用户输入的数据过滤不严格时，袭击者不错构造独特的呐喊字符串，条件愚弄情势现实坏心呐喊，影响情势平时运行，致使违规取得数据或网罗资源。举例早年曾出现的微信扫描特定二维码可能导致愚弄闪退、IOS建造转发特定信息可能导致建造崩溃等表象，王人是此类袭击的发扬之一。

链接有网友指出小红书翻译功能可能被实施“prompt attack”。

此外，有从业东说念主士指出，按照我国《生成式东说念主工智能处事处理暂行主义》条件，此类生成式AI处事上线前应该履行备案情势，并在APP内公示模子称号及备案号。但小红书尚未先容这次上线的AI翻译到底来自哪个供应商，AI自身的复兴也出现不同谜底。若平台使用了尚未在国内完成备案的GPT系列模子，可能存在合规风险。

南王人筹议员属意到，小红书官方账号“日常薯”并未在新功能先容中昭示翻译处事的提供方现金万博manbext体育官网app平台，最新版块的小红书APP也未公示其使用的生成式AI模子及备案号。