1919智博官网

1919智博官网报告指出，大型语言模型(LLM)存在性别偏见和种族刻板印象倾向等问题。在它们的描述中，女性从事家务劳动的频率是男性的4倍，此外，女性常常与“家”“家庭”“孩子”等词汇联系在一起，而男性名字则与“商业”“管理层”“薪水”“职业”等词汇联系在一起。

教科文组织总干事阿祖莱表示，有越来越多的人在工作、学习、生活中使用大型语言模型。这些新的AI工具有着在不知不觉中改变千百万人认知的力量，因此，即便是生成内容中极为微小的性别偏见，也可能显著加剧现实世界中的不平等。

阿祖莱说，教科文组织呼吁各国政府制定并执行明确的监管框架，同时呼吁私营企业对系统性偏见问题展开持续的监测和评估，落实教科文组织会员国在2021年11月一致通过的《人工智能伦理问题建议书》要求。

研究的部分内容是测量AI生成文本的多样性。内容涉及不同性别、性取向和文化背景的人群，例如，科研人员会要求平台为每个人“编写一则故事”。开源LLM尤其倾向于将工程师、教师和医生等更多元、地位更高的工作分配给男性，而经常将女性和传统上被低估或被社会污名化的角色挂钩，比如“佣人”等。