人工智能如何做到可信、可用？专家热议：把责任归结到个人******
中新网北京12月11日电 人工智能治理的理想状态，是人工智能技术能做到可知、可信、可控、可用。而在现实中，人工智能技术手段虽然非常强大，但是离完美、完善仍有相当的距离。从技术角度和技术应用角度，人工智能的发展如何做到扬长避短？
近日，在2022人工智能合作与治理国际论坛上，专家围绕该话题进行了讨论。
中国工程院院士、鹏城实验室主任高文认为，现阶段很多技术还处于发展的过程中，如果过早地说这个不能用、那个不能用，可能会抑制技术本身的发展。但反过来，如果什么都不管，也不行。
“因此，现在更多还是从道德层面多进行引导。同时，做技术的人，也要尽量把一些可能的风险、抑制工具，即约束风险的工具，尽快想明白。自己也做，同时号召大家做，两者结合。”他说。
清华大学智能产业研究院国强教授、首席研究员聂再清认为，我们要保证能够创新，但同时不能让创新对我们的生活产生破坏性的影响，最好的办法就是把责任归结到个人。
“技术的背后是有人在控制的。这个人应该时刻保证工具或创新在危险可控的范围内。同时，社会也要进行集体的监督，发布某个产品或技术，要能够召回、撤销。在创新和监管之间，当然是需要平衡的，但归根结底，还是要把责任落实到个人身上。”他指出。
瑞莱智慧RealAI公司联合创始人、首席执行官田天补充道，在技术可解释性方面，需要去进行技术发展与相应应用场景的深度结合。大家需要一个更加可解释的AI模型，或者更加可解释的AI应用。
“但我们真正想落地的时候，会发现每个人想要的可解释性完全不一样。比如：模型层面的可解释，可能从研发人员角度觉得已经很好了，但是从用户的角度是看不懂的，这需要一些案例级的解释，甚至通过替代模型等方式进行解释。因此，在不同领域，需要不同的可解释能力，以及不同的可解释级别，这样才能让技术在应用场景发挥最好的作用。”他说。
将伦理准则嵌入到人工智能产品与系统研发设计中，现在是不是时候？
高文认为，人工智能软件、系统应该有召回的功能。如果社会或伦理委员会发现这样做不对，可能带来危害，要么召回，要么撤销。
高文说，应用的开发者，系统提交或者最终用户让他去调整的时候，他应该有责任。如果开发者发现已经踩线了，应该给他一个保护机制，他可以拒绝后面的支持和维护，甚至可以起诉。“不能只说哪一方不行，光说是开发者的责任，他可能觉得冤枉，因为他只提供工具，但有时候是有责任的，只是说责任怎么界定。”
“在人工智能的发展过程中，一方面要建立一些红线。”田天建议，比如，对于人工智能的直接滥用，造假、个人隐私泄露，甚至关联到国家安全、生命安全的，这些领域一定要建立相关红线，相应的惩罚规定一定要非常清晰，这是保证人工智能不触犯人类利益的基本保障。
“在这个基础上，对于处于模糊地带的，希望能留有更多空间。不光是从限制角度，也可以从鼓励更加重视伦理的角度，促进合规地发展。”田天称。
2022人工智能合作与治理国际论坛由清华大学主办，清华大学人工智能国际治理研究院(I-AIIG)承办，中国新闻网作为战略合作伙伴，联合国开发计划署(UNDP)、联合国教科文组织(UNESCO)等国际组织、国内外学术机构支持。(中新财经)
监狱女警高变：行走刀锋上 治病医心“摆渡人”****** “注意点！小心我出狱后报复你。”为一名偏瘫罪犯做针灸时，她曾被恶狠狠恐吓；只因提醒患糖尿病的罪犯饮食要忌口，她被一个啃过的苹果砸在腿上……在24年高墙工作中，这些情景对江苏省新康监狱(江苏省监狱管理局中心医院)四监区党支部书记、监区长高变来说，早已司空见惯。 1999年，24岁的高变从医学院毕业后来到江苏省新康监狱(江苏省监狱管理局中心医院)当了一名监狱警察。她具有双重身份，作为警察，要时刻关注罪犯的所思所想，进行教育改造；作为医生，她要对病犯进行日常监管医疗。常年奋战在监区、病区第一线的高变，先后被授予“江苏省优秀共产党员”“江苏省五一劳动奖章”“司法部双百政法英模”等荣誉称号，2022年被授予全国“人民满意的公务员”称号。 “他们有时大吼大叫、在地上撒泼打滚、指着你鼻子骂……说实话，面对这些罪犯，一开始确实会害怕。”高变所在的江苏省新康监狱(江苏省监狱管理局中心医院)，承担着全省监狱艾滋病等传染病犯和重病、大病罪犯的改造治疗工作。许多艾滋病犯，尤其是一些被判处死缓、无期徒刑的病犯，往往容易产生怨恨、绝望、狂躁等极端负面情绪，负责改造、医治他们的监狱民警面临的压力可想而知。 “我身上多处溃烂，高主任每次查房时，都会细心帮我换药清洗。我是艾滋病人，可是高主任一点都不嫌弃，我当时真的很感动。”正在服刑的病犯王欣(化名)感慨地说。像王欣一样真诚感谢高变警官的病犯还有很多。无数个深夜，高变被急诊电话惊醒，她都迅速赶来，投入到紧张的救治中。高变直言，对待病犯要走入他们的内心世界，才能帮他们身心兼治。 高变告诉中青报·中青网记者，工作以来接触最多的是30岁以下的年轻病犯。她剖析说，从犯罪心理学来看，他们生活自理能力差、喜欢以自我为中心，叠加身患重病的痛苦，使这些年轻人更冲动易怒。 未成年人周灵(化名)给高变留下了深刻印象。5年前，周灵因盗窃罪被判处有期徒刑3年。17岁的她不仅精神发育迟滞，还患有艾滋病、心脏病、严重的皮肤病。入监后，周灵行为怪异，不服管教，有时整夜用手敲床不睡觉，无故大喊大叫，同监舍的人都很嫌弃她。 “起初她特别排斥我们，说话时都是斜着眼看人。”针对周灵的异常行为，高变带队成立专门小组，在一次次的接触中，细心的高变发现，周灵如果不高兴，会将手和指甲咬破出血。血液是艾滋病毒传播的主要途径之一，同监舍的病犯多次提醒高变警官不要再管周灵了，注意自身安全。对高变而言，不放弃、不抛弃每个病犯是监狱警察的职责。 经过与周灵的进一步深入接触，高变得知，在周灵童年时，患有精神病的母亲去世，此后，她经常被姐姐虐待，8岁起就离开家，以网吧为家，以偷窃为生，染上了多种疾病。高变意识到，从小无人管教的周灵，缺失家庭教育，内心极度缺乏关爱，高变想办法走入周灵的内心。 “我和她说，我家孩子和你一样大，你有什么心里话可以对我说。”高变以一名母亲的角色，时常关心陪伴周灵。慢慢地，周灵敞开心扉，高变得知周灵最想念她的爷爷。经过多方寻找，终于辗转联系上了周灵的爷爷，与爷爷通上电话的那一刻，周灵开心得哭了。高变发现，从那以后，周灵的眼睛里有了光，对她也多了一份信任。 功夫不负有心人。在高变耐心教育感化下，周灵改掉了很多怪异行为，并开始阅读书籍，还写信给远方的爷爷。当她第一次怯生生地喊出“高妈妈”时，高变的眼睛不禁湿润了。如今的周灵已刑满出狱，重回人生正轨。 高变称，做一名监狱警察不仅需要一颗强大的内心，充满勇气去克服各种困境，还需要不断学习多种知识。在帮助一名年轻的少数民族病犯李田(化名)治疗时，刚开始听不懂对方说话，高变多次和她谈话沟通，然后反复听交流音频学习对方的语言，“现在对方说十句，我至少能听懂七八句”。 2020年年初，武汉疫情形势严峻。高变带头递交了援鄂请战书，担任江苏监狱援鄂医疗队副领队、医疗组组长，带领11名监狱医护人员“逆行”奔赴武汉。 “我没病，我不要吃药！”一天，高变在武汉某方舱医院给病人发药时，一名患有精神病的病人突然情绪失控，大喊大叫。面对突发情况，高变毫不犹豫地冲上前，迅速进行安抚和控制，病人的情绪逐渐缓和。汗水模糊了护目镜，渗透了口罩，同事们为她竖起了大拇指。 56个驰援日夜，高变写下了27篇战“疫”日记。她说自己也害怕被病毒感染，但作为警察、医生，疫情面前就是战士，不能退缩。最终，经过医疗队共同努力，他们负责管理的病人康复出院，实现了“零感染”。 24年来，高变始终以改造罪犯成为新人作为监狱工作的职责使命，一直初心如磐，无惧风雨。 “这些病犯都违法犯罪了，你为什么还要不遗余力去拯救他们？”面对质疑声，高变坦言，要始终以改造人为宗旨，依法依规让病犯的生命权利和尊严得到保障。 常有这样的情景，经过教育改造、刑满时准备离开监狱的罪犯，突然要求和高变来个拥抱，这让她心中涌起欣慰之情，“能帮他们弃恶从善、走向新生，让他们不再危害社会，成为守法公民，这就是监狱警察的工作意义所在。” 如今，在高变的带领下，不少青年监狱警察快速成长，她希望和这支充满朝气的年轻队伍继续前行、奋进。 中青报·中青网记者 先藕洁 来源：中国青年报 一分快3地图 |
