首页 > 企业

微软为“VR环境”骚扰提出“毒性屏障”审查机制 过滤VR世界不良行为

2019/02/18 15:32      yivian   


  2019年02月18日,网络暴力是企业一直希望解决的问题,而一些企业甚至利用了机器学习等人工智能方式。在某些情况下,虚拟环境有可能会加剧这类事件对用户的心理影响。但是,有意见认为“有毒”的定义因人而异。例如,某些用于咒骂的词语对不同人而言有着不同的解读。

  微软认为这是多用户环境中需要解决的一个问题。在美国专利商标局日前公布的一份文件中,这家科技公司设想了一个个性化的“毒性屏障”,其可以根据用户的喜好监控通信和审查数据。

  名为“Personalized toxicity shield for multiuser virtual environments(多用户虚拟环境中的个人毒性屏障)”的发明文件指出,通信可以包括基于语音或基于文本的聊天,如多人游戏会话中的聊天,或者这可以扩展至视频数据流中的图形显示。另外,这一系统可以成为在线Web会议或VR/AR会话的组成元素。所述的技术基本上可以帮助用户有效地与多人进行通信交流,同时可以防止特定的用户成为其烦恼的来源。

  但毒性屏障模块所监控的内容并不仅仅局限于咒骂,同时可能包括不良行为,如朝麦克风大力喷气,或者过于靠近用户。某些人认为,全面禁止这些特定动作显得过于苛刻,所以专利描述的系统只会在用户感到不舒适的情况下才进行审查。

  对于毒性屏障的工作原理,系统可以分析“容忍度数据”以部署特定于用户的毒性屏障模块(TSM)。TSM同时可以利用通过机器学习引擎生成的预测模型来阻隔相关的行为(这一模型可以分析学习用户对不良行为的反应)。系统可以选择默认配置文件以向引擎提供其所需的一切信息,而用户可以选择手动设置设置。这样,系统将能够“基本上实时地”通过静音,删除或不播放不需要的数据来应对不良行为。在某些情况下,它可以向不良行为者发送警告信息或暂停与他们的所有通信。

  如果能够实现真正的智能执行,这样的系统有望营造一个适宜的多用户在线环境。但当然,理想的网络环境定义因人而异,而且实现起来总是充满着挑战。“Personalized toxicity shield for multiuser virtual environments(多用户虚拟环境中的个人毒性屏障)”这份专利是于2017年8月提交,并于日前由美国专利商标局正式公布。需要注意的是,这仅仅只是一份专利,仅代表微软朝这一方向进行了探索,尚不确定他们是否会或将于何时商业化相关的技术发明。

  榜单收录、高管收录、融资收录、活动收录可发送邮件至news#citmt.cn(把#换成@)。

相关阅读