标题：Meta大刀阔斧：90%产品风险评估交由AI，人工审核成历史？
社交媒体巨头Meta正计划将其产品潜在风险评估的任务从人工审核转向更多依赖人工智能（AI），这一举措引发了广泛关注。据美国国家公共广播电台（NPR）报道，Meta的目标是让高达90%的风险评估工作由AI完成，甚至包括涉及青少年风险和“诚信”领域的评估。然而，与NPR交流的现任和前任Meta员工警告称，AI可能会忽视一些人工团队能够识别的严重风险。
在过去的几年里，Meta旗下的Instagram和WhatsApp等平台已经形成了自己的审核机制，在产品更新和新功能推出之前，都会经过人工审核。然而，Meta最近两个月大幅增加了对AI的使用，产品团队需要填写一份关于其产品的调查问卷，并提交给AI系统进行审核。该系统通常会提供“即时决策”，指出其识别出的风险领域。产品团队随后需要解决AI提出的要求，才能发布产品。
尽管有人认为减少审核力度意味着“你正在创造更高的风险”，但Meta在声明中回应称，公司仍会利用“人类专业知识”来评估“新颖且复杂的问题”，而将“低风险决策”交给AI处理。然而，Meta最近公布的诚信报告显示，政策调整后被删除的内容数量有所下降，但霸凌和骚扰行为、以及暴力和血腥内容却略有上升。这一现象引发了人们对AI审核效果的质疑。
首先，我们需要明确的是，AI在风险评估方面具有一定的优势。它能够快速处理大量数据，进行模式识别和预测分析，这对于一些简单、常见的问题识别具有很高的准确性。然而，AI的局限性也十分明显。它缺乏人类的情感、判断力和语境理解能力，因此在处理复杂、模糊或涉及主观判断的问题时，可能会出现偏差。此外，AI也无法处理一些涉及人类行为和社会现象的问题，这些问题往往需要人类的洞察力和专业知识。
其次，我们需要考虑的是AI审核的效果是否能够完全替代人工审核。虽然人工审核在某些方面具有优势，如对细节的关注、对文化背景的理解等，但人工审核也存在一些问题，如疲劳、主观性、情感干扰等。而AI审核可以提供一种更加客观、准确和高效的风险评估方式，特别是在处理复杂和模糊问题时。因此，将AI审核与人工审核相结合，可以更好地平衡风险和用户体验，提供更加全面和准确的风险评估。
最后，我们需要考虑的是如何确保AI审核的公正性和透明度。在将风险评估任务交给AI处理时，必须确保算法的公正性和透明度，避免潜在的偏见和歧视问题。同时，也需要建立有效的反馈机制，及时发现和纠正AI审核中的问题，提高其准确性和可靠性。
总之，Meta大刀阔斧地将90%的产品风险评估交由AI处理，这一举措引发了广泛关注。虽然AI在风险评估方面具有一定的优势，但也存在局限性。因此，将AI审核与人工审核相结合，并确保其公正性和透明度，是未来社交媒体平台风险评估的重要方向。同时，我们也需要关注政策调整后被删除的内容数量下降但霸凌和骚扰行为、暴力和血腥内容却略有上升的现象，这需要我们进一步研究和探讨。
