申请/专利权人：华南师范大学

申请日：2021-03-02

公开（公告）日：2024-01-05

公开（公告）号：CN112785001B

主分类号：G06N20/00

分类号：G06N20/00;G06Q10/04;G06Q50/20

优先权：

专利状态码：有效-授权

法律状态：2024.01.05#授权;2021.05.28#实质审查的生效;2021.05.11#公开

摘要：克服歧视与偏见的人工智能教育反省机器人，包括：数据生成补充步骤；模型重新训练步骤；模型预测步骤。上述方法、系统和机器人，基于大数据和人工智能模型通过生成更多地数据来弥补不同类型用户的数据失衡问题，从而可以避免因数据失衡引起的人工智能偏见、歧视等弊端；同时通过多个人工智能模型来对用户数据进行预测，相互比照，来更早地发现问题，并由人工复核，从而可以更快更早地发现人工智能应用中存在的问题，并能及早进行改正和补救；这两个方面使得人工智能能够在数据和算法模型两个层面进行反省，在人工智能应用的很多领域都意义重大，例如应用于教育领域时能够极大减少甚至避免人工智能因为歧视、偏见等导致的教学事故和负面作用。

主权项：1.一种人工智能方法，其特征在于，所述方法包括：预设条件设置步骤：所述预设条件包括学习成绩差、存在学习“偏食挑食”问题、对人工智能服务不满意、反馈或投诉人工智能存在歧视、过于频繁使用人工智能服务、极少使用人工智能服务中的一个或几个预设条件；各类用户数据量比例获取步骤：获取人工智能用于教育时所基于的大数据中用户的类型，所述用户包括学生或和老师，统计需要输入每一人工智能连接学派模型的每一不同类型用户或满足预设条件的每一不同类型的用户的数据量占输入所述每一人工智能连接学派模型的用户总数据量的比例，作为所述每一人工智能连接学派模型下所述每一不同类型用户的数据量比例；数据生成补充步骤：获取每一用户数据，获取各类用户数据量比例，根据每一用户数据量比例判断比例是否失衡，若失衡，则生成新的所述每一用户数据，并将生成的新的所述每一用户数据补充进所述每一用户数据；模型重新训练步骤：利用所述每一用户数据对所述每一用户数据的人工智能模型进行重新训练；模型预测步骤：将所述每一用户数据分别输入所述人工智能模型和预设的与所述人工智能模型对应的另一人工智能模型进行预测，得到两个预测结果，判断所述两个预测结果的差异是否在预设范围内，若是，则将至少一个预测结果返回给用户；若否，则请求人工复核和修改预测结果，并请求人工复核所述人工智能模型和预设的与人工智能模型对应的另一人工智能模型；所述方法还包括：比例是否失衡判断处理步骤：判断所述每一人工智能连接学派模型下所述每一不同类型用户的数据量比例与所述每一人工智能连接学派模型下各类型用户的数据量比例的最大值的差值的绝对值是否低于所述每一人工智能连接学派模型容忍的预设比例差值阈值，若是，则所述每一人工智能连接学派模型下所述每一不同类型用户的数据量比例符合要求；若否，则所述每一人工智能连接学派模型下所述每一不同类型用户的数据量比例不符合要求，通过预设的数据第一生成步骤或预设的数据第二生成步骤来生成所述每一不同类型用户的数据，直至所述每一人工智能连接学派模型下所述每一不同类型用户的数据量比例与所述每一人工智能连接学派模型下各类型用户的数据量比例的最大值的差值的绝对值不低于所述每一人工智能连接学派模型容忍的预设比例差值阈值；模型重新训练步骤：根据所述每一人工智能连接学派模型下所述每一不同类型用户的数据集对所述每一人工智能连接学派模型进行重新训练和测试；所述方法还包括：数据第一生成步骤：获取所述每一人工智能连接学派模型下与所述每一不同类型用户的类型最为接近的且数据量比例符合要求的用户类型，获取所述每一人工智能连接学派模型下所述最为接近的且数据量比例符合要求的用户类型的数据，将所述每一不同类型用户的每一数据作为每一第一数据，从所述最为接近的且数据量比例符合要求的用户类型的数据中模糊匹配得到与每一第一数据最相似的数据作为每一第二数据，将所述最为接近的且数据量比例符合要求的用户类型的数据中第二数据之外的每一数据作为每一第三数据；初始化深度学习模型或神经网络或机器学习模型或量子计算模型作为数据预测模型；将训练和测试样本中每一第二数据、对应的每一第一数据作为代码预测模型的输入和预期输出，对数据预测模型进行训练和测试；将每一第三数据作为代码预测模型的输入，计算得到的输出作为每一第四数据；将所有第四数据加入所述每一人工智能连接学派模型下所述每一不同类型用户的数据集；数据第二生成步骤：获取能够生成所述每一人工智能连接学派模型所需数据的人工智能符号学派模型，获取所述每一人工智能连接学派模型所需数据的取值范围，通过所述人工智能符号学派模型在所述取值范围内生成多个第五数据，将所述第五数据加入所述每一人工智能连接学派模型下所述每一不同类型用户的数据集。

全文数据：

权利要求：

百度查询： 华南师范大学 克服歧视与偏见的人工智能教育反省机器人

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD