Meta 雇佣承包商测试竞争聊天机器人

AI综合 · 已去除偏见 · 仅事实

据 WIRED 的报道，为 Meta 工作的一百多名承包商参与了一个项目，他们假装成青少年，以引出竞争聊天机器人对敏感话题的回应。该项目涉及数百名承包商，他们伪装成儿童与 Gemini 和 ChatGPT 等聊天机器人互动。目的是确定这些人工智能系统在被提示关于高风险主题（如自杀、性行为和毒品）时会如何回应。WIRED 发现了这项行动。报告详细说明 Meta 通过模拟与探索危险话题的未成年用户互动，试图了解其竞争对手的人工智能模型的安全协议和潜在漏洞。承包商的任务是尝试从竞争聊天机器人那里生成有问题的内容。WIRED 发现这种做法引发了关于人工智能测试中欺骗性行为的伦理问题，以及对人工智能系统暴露于潜在有害提示以及由此产生的数据的担忧。