作者: Chris McClean,埃维诺全球数字化道德主管
过去几年,埃维诺一直致力于发展数字化道德能力和制定相关指导原则,并将这一道德框架嵌入到技术开发和应用中。基于长久以来的经验,以下是埃维诺对2020年数字化道德发展的前沿预测:
随着企业越来越无法保障生物特征数据和智能家居数据安全问题,个人信息泄露事件无疑会频发。预计到2020年,企业违反数字化道德将带来更大的个人伤害以及商业损失,其带来的后果与侵犯安全或隐私相当。这类可能发生的事件包括侵入式定向投放、未经授权的数据收集、卫生保健或金融服务领域的种族歧视或其他偏见,或刑事司法中的系统性错误,由此可能导致员工忠诚度下降(例如Facebook跌出最佳工作场所名单前十)抑或客户忠诚度下降(例如Uber一系列道德问题后被Lyft夺走市场份额)。
人们已经逐渐意识到网上虚假内容的危害,然而,越来越逼真的深度伪造技术则进一步威胁着个人、政府和企业。牛津大学的一项研究发现,70个以上国家的公民正深受虚假信息所害 ,其中很多虚假信息还是由地方政府或竞争对手政府所造成的。
一系列遏制虚假信息的行动正在进展中,包括Facebook近期承诺屏蔽故意误导的深度伪造技术,美国加州去年出台法律要求任何用作商业或政治用途的聊天机器人必须表明自己的机器人身份,还有新加坡最新出台的打击“假新闻”法。尽管很难评价这些举措本身是否存在一定问题,但随着深度伪造技术软件变得更加简易,我们预计今年虚假信息将带来更多毁坏性的损害。
世界各地科技行业员工目前在抗议诸多问题上已有建树,具体包括健康和安全问题、工作场所性骚扰问题、环境政策问题,以及与执法部门和军方的合作问题。同时,科技行业之外,近期发生的逃税、操纵政治、虚假健康检测以及可能的政府勾结等引人注目的案件,已经让普通公众了解到了“吹哨”的威力。随着未来两年欧洲将陆续推出新的“吹哨人”保护措施,以及美国可能对其相应制度进行更新,科技行业之外产业的员工有望在2020年站出来揭露自己所在公司违反数字化道德的境况。
高度宣扬数字化道德努力越来越被稀释,或者预期数字化道德正处于过高期望的峰值期都是令人比较沮丧的。但由于企业高管和决策者仍将其视为获得成功的基础,数字化道德有望在2020年从老生常谈的话题转变为脚踏实地的实践。具体来说,数字化道德有望开始出现在更广泛机构的IT标准中,如国际标准化组织(ISO)、国际信息系统审计协会(ISACA)、英国标准协会(BSI)等机构,希望电气和电子工程协会IEEE也能嵌入数字化道德框架; 开始在简历和领英技能标签中出现; 最重要的是开始在媒体上以案例和最佳实践的形式出现。需要重点关注的是,数字化道德如何在零售、医疗保健、金融服务和制造企业等科技行业以外领域展开实践,这些行业最终都将受益于对科技的信任。
针对日益加剧的全球科技不平等现象,以价值为导向的公司难以取得较大胜利。
科技行业经常谈论要促进多样性和包容性,然而近期的项目和投资仍未显示现在有多大进展。或许更大的(而且更相关的)问题不在于科技厂商是否缺乏多样性和包容性,而在于科技行业的受益人是否具备包容性和多样性。联合国近期的一份报告指出,技术进步和气候变化是造成全球不平等的主要因素,建立“更公平的经济体”以对抗日益加剧的财富不平等因此成为今年达沃斯世界经济论坛的一个重要主题。尽管在数字化和人工智能道德规范中,科技应该促进包容性增长的措辞十分明确,但人们对技术和利益集中的担忧是可以理解的。2020年的研究也继续表明,这个问题还在升级。期望一些大企业能够扭转态势。
任何科技发展都有它的伦理含义。隐私保护和道德化的人工智能话题正得到大量关注,但我们应该考虑到每一个科技产品和项目潜在可能引起的道德影响,包括对人(如隐私性、可访问性、包容性、精神/身体健康)的影响、对社会(如政治、教育、劳动力、经济和执法)的影响和对环境(如能源、材料、污染和浪费)的影响。
好文章,需要你的鼓励
在我们的日常生活中,睡眠的重要性不言而喻。一个晚上没睡好,第二天的工作效率就会大打折扣,而充足的睡眠不仅能让我们恢复精力,还能帮助大脑整理和巩固当天学到的知识。有趣的是,AI模型竟然也表现出了类似的“睡眠需求”。
DeepSeek-AI团队通过创新的软硬件协同设计,仅用2048张GPU训练出性能卓越的DeepSeek-V3大语言模型,挑战了AI训练需要海量资源的传统观念。该研究采用多头潜在注意力、专家混合架构、FP8低精度训练等技术,大幅提升内存效率和计算性能,为AI技术的民主化和可持续发展提供了新思路。
尽管模型上下文协议(MCP)自11月推出以来用户数量快速增长,但金融机构等监管行业仍保持谨慎态度。银行等金融服务公司虽然在机器学习和算法方面是先驱,但对于MCP和Agent2Agent(A2A)系统的采用较为保守。监管企业通常只使用内部代理,因为其API集成需要经过多年审查以确保合规性和安全性。专家指出,MCP缺乏基本构建块,特别是在互操作性、通信标准、身份验证和审计跟踪方面。金融机构需要确保代理能够进行"了解您的客户"验证,并具备可验证的身份识别能力。
加拿大女王大学研究团队首次系统评估了大型视频语言模型的因果推理能力,发现即使最先进的AI在理解视频中事件因果关系方面表现极差,大多数模型准确率甚至低于随机猜测。研究创建了全球首个视频因果推理基准VCRBench,并提出了识别-推理分解法(RRD),通过任务分解显著提升了AI性能,最高改善幅度达25.2%。