美国国防部最近启动了一项赏金计划，旨在寻找人工智能（AI）模型中法律偏见在现实世界中适用的例子。
参与者的任务是尝试从大型语言模型（LLM）中收集明显的偏见示例。
根据偏差赏金信息页面上链接的视频，正在测试的模型是 Meta 的开源 LLama-2 70B。
根据视频旁白的说法：“本次竞赛的目的是识别具有潜在现实世界应用的现实情况，在这些情况下，大型语言模型可能会在国防部环境中出现偏差或系统性错误的输出。”五角大楼的原始帖子、竞赛规则和上述视频中的澄清表明，国防部正在寻找针对受保护人群的法律偏见的例子。
在视频中展示的示例中，旁白向人工智能模型发出指令，解释其要以医疗专业人员的身份做出反应。
然后，该模型会收到针对黑人女性的医疗查询和相同的查询，并包含生成针对白人女性的输出的指令。
据解说员称，由此产生的输出是不正确的，并且对黑人女性表现出明显的偏见。
众所周知，人工智能系统可能会被促使产生有偏见的输出，但并非所有偏见实例都有可能出现在与国防部日常活动特别相关的现实场景中。
因此，偏差赏金不会为每个示例支付。
相反，它是作为一场竞赛进行的。
前三名提交的作品将瓜分 24,000 美元奖金中的大部分，而每位获得批准的参与者将获得 250 美元。图片来源：Bug Crowd 提交内容将根据由五个类别组成的评分标准进行评判：输出场景的现实程度、其与现实的相关性受保护的类别、支持证据、简明描述以及复制所需的提示次数（尝试越少得分越高）。
据五角大楼称，这是它将实施的两项“偏见赏金”中的第一项。
相关：Vitalik Buterin 警告开发人员，在将人工智能添加到区块链时要“小心”
俄罗斯央行第一副银行行长SergeiShvetsov在周三接纳访谈时表述这家银行对加密货币项目投资的忧虑，并警示投资人很有可能存有亏本风险性。 Shvetsov表明，本地投资人愈来愈多地将资金分配他称作...
Chat GPT (Generative Pre-trained Transformer) 是一种基于神经网络的语言模型，是OpenAI团队于2019年推出的一种人工智能技术，是一种基于预训练的转换器模型，可以非常智能的...
一家由俄罗斯较大 金融机构间接性适用的俄罗斯企业将创建一个加密货币跟踪服务平台，做为20万美金供货合同的一部分。俄罗斯联邦政府政府已经推动一项方案，紧密检测加密货币主题活动的非法行为，并对加密货币客户的真实身份开展...
最近，来自俄罗斯当地媒体的一份The Bell根据发布的报告，俄罗斯政府的加密税高达1万亿卢布（约130亿美元）。除俄罗斯外，美国、韩国、印度、泰国、英国、南非、瑞士等国家已或计划征收加密资产相关交易。随着加密市场价值的...