冯尔康:人工智能时代的伦理危机与史学因应——“未来史学”断想


        人类社会进入信息化时代、人工智能时代,科技高速发展,人类生命和生活质量提高,拥有巨量的物质生活资源,享受快捷通信带来的丰富信息。这一切都应该是在敬畏大自然以及社会制度基本合理的前提下出现的。但人工智能是双刃剑,人类可能受干扰,改变生活方式,甚至危及自身。所以史学研究必须面对当今社会现实,对人工智能时代的到来采取必要的调整与因应。人类整体史研究应特别关注人工智能发展与人类未来的关系(以下简称人机关系),为人类社会发展、为捍卫人类提供可供参考的思想素材,这是未来史学的使命。笔者虽对现代科学、人工智能了解有限,但愿结合多年研治中国社会史过程中对人类未来所产生的思考,将建立中国未来史学的初步设想书写出来,向同人请益。本文将以人机关系动态史的发展演进历程为主要线索,呈现人工智能时代所带来的伦理危机与挑战,阐述如何以史学的方式介入、理解并规范人工智能的发展,并探讨在此背景下建立“未来史学”之可能。

一、 人工智能时代的到来与未来学、未来史学的产生

        近年来人们常说人工智能时代即将来临,不时惊呼 “未来已来”!在人工智能时代,人类现在、未来将处于怎样的状态呢?适时产生的未来学、未来史学应当担起回答这一问题的使命。

1.人工智能时代的到来

         着当代科学发展,人工智能时代何时才算到来成为一个问题。人们常说 “未来已来”,但学者陈奇佳、李昊翔认为:“AI 时代到来,虽然即将成为事实,它在当前毕竟还是一个未定型的状态。”李飞飞博士则认为,我们已经进入人工智能时代。她在 2025 年 2 月 10 日巴黎人工智能峰会开幕式演讲时说:“人工智能始终是一个充满活力的多学科交叉领域。我们今天所处的现代人工智能时代,是三项意义深远且又各具特色的技术和科学进步融合的成果。” 她接着说:“我们现在所处的时代,历史学家们无疑会将其定义为人工智能的第一个真正时代。”她是从科学技术发展史、人工智能发展史的角度作出这一论断。但笔者认为,人类经历渔猎社会、农业社会、工业社会,即经过认知革命、农业革命、工业革命一步一步发展,从当前正在进行的科学革命开始步入人工智能时代第一阶段,待无人驾驶汽车成为亿万大众使用的交通工具、人们都以 AI 设备为教师或助手,才是真正进入人工智能时代。因此似乎可以说,我们处在人工智能时代初期。信息技术及计算科学研究者李开复预测:2025-2035 年,专用 AI 全面渗透;2035-2045 年,类人 AI 突破;2045-2055 年,人机共生阶段。

2.未来学的曙光

        2024 年的诺贝尔物理学奖颁给了两位 AI 研究者约翰・J. 霍普菲尔德(John J. Hopfield,1933-)和杰弗里・E. 辛顿(Geoffrey E. Hinton,1947-),引起一片质疑声。对此诺贝尔奖评委回应称,他们(霍普菲尔德、辛顿)发明的 “机器学习” 属于未来学范畴。此前,未来学家已经在不同的研究领域出现。《连线》杂志创始主编、硅谷创业精神导师凯文・凯利(Kevin Kelly)著有《5000 天后的世界》《失控》。以色列人历史学家、未来史学家尤瓦尔・赫拉利(1976-)著有《人类简史:从动物到上帝》《智人之上:从石器时代到 AI 时代的信息网络简史》,创造性地提出对人类历史及未来史的认识。哈佛大学学者王勇在《哈佛大学重塑历史系,以应对 “人文科学危机”》中提出史学是未来学的观点,他说以往人们以为历史是一门关于过去的、“过时” 的学科,需要改变这种看法,“历史学实际上是一门关于现在和未来的学科”。 

        事实上,未来学在 20 世纪 50 年代开始出现,它是一门研究未来可能发展的学科领域,又称未来研究。通过分析当前的趋势、技术进步、社会变革等因素,来预测和规划未来的发展。中国学者似乎尚未明确提出建立未来史学的设想,不过多位学者已发出涉及未来史的声音。笔者于 2016 年 10 月在南开大学历史学院做题为《信息化时代史学研究法浅谈》的演讲,提出 “信息时代,需要有新的问题意识、思维方式、研究方向”。研究方向包括:信息时代、全球化时代的人类社会走向;人类的追求与生活是怎样的;人类未来将是怎样的。特别提到机器人问世后的人类就业问题:“信息时代、智能时代,生产进一步自动化,机器人代替人工,基础性工作岗位大量减少,新生代就业成了大问题。” 所关注的实际上就是未来史学研讨的议题。2019 年 4 月笔者在天津市天泽书店文化论坛上以《当代社会生活史研究与你我》为题的演说再次提出问题:“智能化将给人类带来什么?是祸是福与如何避祸就福?”研究文学史的学者陈平原多次谈论人文学者与 AI 的关系,强调积极应对 AI 的挑战。2025 年元旦,陈氏在《光明日报》发表《人文学科要做好迎接人工智能挑战的准备》,认为人工智能发展迅速,人文学科受到冲击,但理解世界幽微、理解人生苦难、培养人性高贵的人文学科的品质是 ChatGPT 所不具备的。2024 年,历史学者刘志伟表示:AI 的影响才刚刚开始,我们已经非常敏感地迎接 AI 时代的挑战。北京大学历史学系在 2025 年 2 月13日举办 “AI + 史学:历史研究与教育如何人工智能化” 座谈会,从北大过往在学科交叉领域的前瞻性实践入手,为人工智能与历史学等人文学科的融合提出了诸多构想和新思路,为人文学科在智能时代的可持续发展提供了新范式。南开大学历史学院建设生成式人工智能时代教学史学实验室并于 2025 年 6 月7~8 日召开学术研讨会。笔者与上述学者的共识是:迎接人工智能挑战,关注未来史学、人文学科未来,从中汲取养料。为史学注入人工智能时代的新元素,探讨人机关系、人机交互动态史,并且将其纳入人类整体史研究,致力于维护人类正常的工作、生活方式,情感交流和社会伦理,捍卫人类尊严、生命安全,呼吁控制人工智能发展,反对违背人类伦理的智能化造 “人”。

二、 各界有关人工智能利弊的认识综述

        人们已经或多或少地知道人工智能将给人类社会带来重大影响,既有福音,也有噩耗,这就为未来史学提供了认知人工智能时代历史的新方向。

1.生产力与物质生活的提升

生产力提高

        人类与人工智能合作创造新技术,提高生产力。凯文・凯利说 AI 技术就像给创新装上了超级引擎,新想法和新发明的传播速度,比以往任何时候都快;AI 能创造出我们连想都不敢想的奇迹。LinkedIn 创始人霍夫曼认为:AI 几十年内都是人类的合作者,人工智能也可能彻底改变医疗保健行业,产生 “智能手机上的医生”。诺奖得主辛顿说:“神经网络和机器学习未来将产生巨大的影响,其影响将与工业革命相媲美。然而机器学习和人工智能不仅仅是在体力上超越人类,而是会在智力上超过人类。”人工智能专家龚克预言:“AI 智能体可以说是人工智能技术集大成者,可以广泛应用于工业、医疗、交通、金融和家庭等领域,用户可以拥有多个智能体,发挥各种作用,并对人类社会的发展进步产生全面而深远的影响。”

医疗领域助手

        在医疗领域,人工智能可以通过多样化诊断手段,在疾病检测、临床决策中借助人工智能算法案例进行分析,并把医疗影像运用于诊断中;同时在患者治疗、护理和监测中发挥作用,提供个性化的治疗和护理建议。在医院运营和管理方面,人工智能将优化物流,简化行政后勤任务,改善患者流动性和排班效率。此外,人工智能还能令失语者恢复语言能力 ——《自然神经科学》期刊发文,医学家在一名 47 岁失语女患者脑部装上电脑介面,患者说话的意愿转化为流畅语言。

教育事业辅助

        OpenAI 推出的 ChatGPT 软件,被认为将在教育领域引发对人类社会最为根本的变革。数学课上,AI 可以讲解习题,生成概念可视化方案。在历史课上,AI 可以使历史场景重现,如提供唐代长安集市的图像,讲述历史故事。师生关系方面,AI 智能导师可以以一个全新角色登场,了解学生的学习进度、难点和兴趣,提供个性化的教学方案;通过智能评估系统分析学生的答题情况,为老师提供精准的教学反馈来改进教学;陪伴与支持学生,打破时空限制,让沟通更便捷。智能管理系统则可以帮助学校实现资源优化配置,提高管理效率,当下大模型产品足以成为高校师生学习科研的助手。

日常生活服务

        马斯克在 ALL-IN 大会上预言 AI 与机器人将带来一个物质与服务极度充裕的黄金时代。原先的梦想之物,成为日常生活的寻常品。并且预言未来机器人的数量将远超人类,机器人能遛狗、扫地,人们在机器人陪伴下享受生活。2024 年春天开始,深圳 AI 环卫工上岗。2024 年 7 月,无人驾驶出租车 “萝卜快跑” 出现在武汉街头。同年 3 月美国加州旧金山到桑尼维尔的自动驾驶出租车开始服务。

提供养老服务

        截止 2025 年 1 月,中国 60 岁以上人口 3.1 亿,占总人口 22% 以上,因此有文章提出 “老龄化遇上 AI 革命”“AI 养老新纪元” 等概念。AI 养老的三大核心战场:一是健康监测,主动预防;二是情感陪伴;三是行业转型,从 “劳动力红海” 到 “技能型蓝海”。如今,新型护工机器人走进上海老人家中,它能提供一般服务,还能测心率,发现问题叫救护车,按时让老人服药,未来将促成人机共生养老新生态。

其他生活服务

        AI翻译目前还不能代替人工翻译,不过已向翻译家提出挑战。原本的国际传播以国家为主导行为体、以大众传媒为基础的经典范式,也开始走向多元主体、多机制融合复杂系统为基本方式的全新范式 —— 以 AIGC 为代表的新技术确立了智能传播的主流地位。人类社会因传播巨变而造成权力转移,国际传播格局也将迎来颠覆性变局。此外,人工智能已成为出版机构向用户提供知识服务的重要驱动力量。人工智能几乎可以与所有学科进行交叉融合,迈向大科学时代,彻底打破学科边界,使跨学科研究获得真正的认可和支持。

2.人工智能对人类社会和生活方式的冲击

失业潮

        2023 年,IBM 宣布用 AI 替代 7800 个岗位,同年 Gartner IT 研讨会上分析师谈到了软件 AI 时代将如何改变人机关系,到 2025 年,一些公司雇员开始与机器人同事并肩作战。2024 年,麦肯锡一份报告显示:2030-2060 年,将会有 50% 的现有职业被 AI 取代,到 2030 年欧洲 27% 的岗位、美国 30% 的岗位将会被 AI 取代。

  其中最容易被取代的 6 类工作是:初级脑力劳动者;标准化服务业;中层管理者;低创意型设计师;基础数据分析岗;传统制造业技工。当无人驾驶出租车行驶在街头,有人惊呼这将影响数以十万计的出租车、网约车从业者,进而殃及快递小哥,而这些低端职业者很难有再就业的机会。2024 年 2 月 16 日,人工智能研究公司 OpenAI 发布文字生成视频的 Sora 模型;3 月 10 日硅谷一家 AI 初创公司 Pika Labs 宣布他们的视频模型能够同时生成画面和声音 —— 各种 AI 影像也使影视业受到严重冲击。

情感交流生活的丧失

        人机对话,线上交流,令人类丧失线下有情趣的情感交流生活,无奈地进入虚拟世界。新冠疫情暴发后,人们的多种活动在线上进行,线上授课、办公、举办专业会议,甚至线上问诊。于是人和人不必会面,只是 “云” 中神会。授课的教师、听课的学生没有会聚于课堂,教师不方便了解学生接受状况,学生不能及时提问,只能望 “云” 兴叹!师生没有情感沟通,难以互动,教与学的效果当然比线下教学差得很多。教育家章开沅(1926-2021)在新冠疫情发生后作《野叟献曝,三言两语》,提出关于疫情与教育的思考:教育为立国之本,网课诚然已经发挥巨大作用,但毕竟代替不了师生之间的教学相长与情感交流。桃李芳菲,生机勃勃,才是校园应该恢复的常态。

制造虚假信息,酿成社会问题

        尤瓦尔・赫拉利提出,计算机借用名家语言让其利用者自我戕害:“几千年来,先知、诗人和政治家一直使用语言来操纵和重塑社会。现在计算机正在学习如何做到这一点。它们不需要派杀手机器人来袭击我们。它们可以操纵人类扣动扳机。” 信息可能引发虚构、幻想和大众妄想,从而导致灾难性发展。人工智能时代,人类要么驯服 AI,要么被 AI 驯服。

青少年网瘾影响身心健康

        2024 年 2 月,14 岁少年 Sewell Setzer,与 CharacterAI 程序中的虚拟人物丹尼莉丝产生了情感依恋,部分聊天内容十分暧昧,在沉迷机器人数月后变得与世隔绝,最终于 2024 年 2 月自杀。科学家预言的 AI 会成为杀人凶手,其中受害者自杀成为显例,网瘾造成的生理、心理疾病有相当普遍性。因此有识之士应警惕技术的负面影响,尤其反对违背人类伦理的智能化的造 “人”。

老年人沦为 “数字人质” 的趋势

        2024 年《中国互联网络发展状况统计报告》显示,我国 50 岁以上的中老年网民数量已经超过了 3.66 亿,60 岁以上网民超过 1.57 亿。近千万老年人每天上网时间突破 7 小时,超过 10 万名老人日均上网超 10 小时。有人认为人工智能让人停止思考,变懒,成为一无是处的人,社会也将因此步入 “全民弱智时代”,表现为认知能力集体退化,认知懒惰,判断力丧失。

三、未来史学任务之一:探索人工智能终结人类自身的风险

        世界上任何事物都有两面性,老话说 “利弊相循”。LinkedIn 创始人霍夫曼指出,人类和机器将在几十年甚至更长历史时期保持协作关系,因为人类在情境意识和适应性方面仍然具有优势。但是当每个人都有自己的人工智能代理,帮助完成各种任务,人工智能则可能带来风险。以下将说明人工智能无节制发展的风险,科技巨头为追逐最大利润和集权者权势欲膨胀或将酿成人工智能的恶性发展。

1.便利生活中潜藏的危机

        初级技能者因人工智能兴起而面临就业难的问题,这可能会带来社会混乱的风险。我国第七次人口普查数据显示,全国拥有大学文化程度人口 2 亿多,近 12 亿人口文化程度在高中及中专以下,这些人多从事制造业和服务业等传统行业,难以快速适应人工智能时代对高技能、高知识水平的要求,在就业市场中可能面临更大的困难。

        信息化改变人们生活方式,还会造成人类体能下降。几乎须臾不能离的手机成了万能工具,人们用它看信息、学知识、找乐趣、购商品,有人佝偻身躯,手指不停地拨弄它,给它指令,甚至行走中俯视它,在过马路时也在使用手机。使用电脑、手机、人工智能软件只需动动手指,这导致人类身体活动大大减少,势必造成体能下降。此外,人工智能用于医疗保健固然有正面作用,但也出现了病人个人信息外泄的负面问题。

        线上教学、工作、会议之类的虚拟世界活动,在不得已的情况下作为应急措施无须厚非,但它使人们之间缺少了情感交流,或因此影响人类情感的正常表达。线上授课最大的缺憾是师生丧失情感交流的机会,北美《世界日报》报道:经过长期孤立的学习,学生成绩、耐心都变差,旷课情况增加。情感是人类心灵的产物,是对大自然、动植物、社会生态、人际关系的感受凝结而成的意识。人类的情感,表现在生活中人际关系的调处,也体现在生活的闲适一面,可是科技越发展,人们的生活越紧张,AI 那样无休止地运作,让人跟着它转,造成人类身心两疲。“正念之父” 卡巴金及诸多医疗健康专家发言,谈到人类需要休息、消化、睡眠,而 AI 计算机不需要这些,随着它们在世界上越来越占据主导地位,人类可能丧失有节奏的生活方式。面对虚拟世界,更需加强对人类情感重要性的认知和维护,杜绝机械式生活。

2.人工智能的无节制发展对人类自身历史终结的风险

        谷歌前任副总裁辛顿意识到人工智能风险,他说 “我担心随着人工智能系统变得比人类更智能,它们最终可能会控制我们”。近年人工智能已经具备了操纵和生成语言的惊人能力,无论是通过文字、声音还是图像,其均成功攻破我们文明的操作系统。通过掌握语言,机器人可以与人建立亲密关系。不受监管的 AI 部署将造成社会混乱,如果我正在与某人交谈,而无法分辨对方是人类还是 AI,那么人类民主就结束了。OpenAI 研究副总裁表明大型神经网络可能已经有了足够算力以表现出意识,或者说已经具备意识雏形。当 AI 有了意识,就可能超越人类智商,人类就可能被它驾驭。

        学者彭兰指出:历来人机关系是人处于绝对支配地位,机器只是一种工具。而在未来,随着人工智能、大数据、物联网、生物技术和其他技术的发展,机器的能力将发生本质的跃进,人与机器的边界被打破,人机关系也将被深刻改写。新的人机关系或许会使今天以人为主导的信息文明演化为人与机器共同作用下的 “人机文明”,这种新文明既可能延续与丰富人类文明,又可能在一些方面偏离人类文明的既有轨道,这些偏离也可能酿出风险。彭兰认为更可怕的是人类可能变成被数据化的 “后人类”:与人体相关的设备(包括手机)和智能传感器不只是人的器官延伸,而成为某种意义上的新器官。它们增加了人对外界的感知、连接与认识能力,同时也增加了人被外界认知与控制的维度。这些机器也将随时随地映射到虚拟世界 —— 人的身体状态、行为甚至思维都被数据化,人与信息的界限不断模糊,人类日益成为后人类主义代表凯瑟琳・海勒所说的作为物质 / 信息混合物的后人类主体。

        对于人工智能,赫拉利有犀利的认知。他将 “人工智能” 称为 “异类智能”。他提出,“人工” 这个词让人感觉是我们设计了它,我们当然能够控制它,然而人工的东西虽是人类制造的,但随着时间的推移,“人工智能” 可能越来越不 “人工”,越来越像 “异类”。“我们设计了这些‘婴儿’人工智能,但它们在学习和改变,开始作出意想不到的决定,开始提出一些人类无法想到的新想法。”2016 年机器人 AlphaGo 击败世界围棋冠军李世石,同样的情况很可能发生在金融、医疗、宗教领域。我们能否与人工智能和谐共处,共同创造更加美好的未来?或者我们最终会沦为这个 “异类智能” 的奴隶?没有简单的答案,必须认真思考,并作出明智的决定。

3.科技巨头为追逐最大利润使人工智能恶性发展,难以监控

        世界财富巨头无止境地追逐利润,不断投资研发人工智能新产品,有人甚至置民族国家利益、意识形态于度外,更没有顾及人类命运的良知。赫拉利说过:“我们已经成为巨头的商品而非用户。” 用户本来处于主动者地位,现在,制造商的产品令你心动,非买不可,此时令你心动的产品已经掌控你,在制造商看来,买主成了他的商品,他的财富来源。在国家维度,赫拉利指出:人工智能崛起,因为计算机让信息和权力更容易集中于单一中央枢纽,人类可能进入一个新的帝国时代,控制的强度远高于以往的帝国时代。一道新的硅幕可能让人类分裂,使之分属于敌对的数字帝国,又由于经济和地缘政治动态,可能让世界分裂成两个或多个数字帝国。科技巨头无度发展人工智能,对人类未来、人类命运造成不确定性影响,靠他们自我克制根本不可能,唯有人类中的良知者及正义的社会力量或能够发挥遏制作用。

四、未来史学任务之二:规范人工智能发展,维护人类生命安全  

        我们已经知道人工智能为人类生活带来的光明面和危险性,也明了不顾人类安危制造人工智能的那种力量极难自我克制,只有具有良知的人士和社会力量能够切实监控他们的肆意妄为。那么,良知者在哪里?对此未来史学应向全社会提出建设性建议。

1.以历史学的视角发现控制人工智能恣肆发展的机构及良知人士

        制约人工智能恶性发展的社会力量,有国际权威机构、各国政府、制造商和社会各界良知人士,期盼各种良知力量能在该领域形成合力。

国际权威机构与政府的态度与实践性分析

        联合国未来峰会于 2024 年 9 月 22 日在纽约联合国总部开幕,约 130 位国家元首和政府首脑出席,会议通过《未来契约》及其附件《全球数字契约》《子孙后代宣言》。《未来契约》及附件呼吁科技发展以造福每一个人为原则,制定人工智能国际治理协议,呼吁避免战争,且人工智能发展必须以每一个人的幸福为宗旨。联合国维护人类利益的目标是有益的,期盼《未来契约》的目标能够实现。此外,联合国教科文组织发布了《学生人工智能能力框架》,涉及人工智能伦理、技术、应用、设计四个能力维度。

         欧盟自 2015 年以来一直致力于平衡技术创新与风险管理,确保技术进步与社会伦理、个人隐私的和谐共生,通过成立人工智能高级别专家小组(AI HLE)和发布《人工智能法案》,在保障个人权利、促进数据安全和推动技术发展之间寻找平衡点,为全球人工智能治理提供启示。欧盟人工智能立法的原则与机制,包含算法可解释性和透明原则;风险分级分类与算法安全评估;人工智能治理的外部问责机制;建立统一的监管机构,实现和 GDPR 监管的有效衔接,实现数据治理和算法规制的有效统一。欧盟的法案虽然过于倚重企业自治,其有效性受到质疑,但这终归是人工智能立法的突破,值得称赞。

        加拿大政府宣布成立人工智能安全研究所,2024 年推出预算 24 亿加元帮助研究人员、企业开发和采用 AI 技术并防治风险。加拿大是新成立的国际人工智能安全研究所网络的成员,为执行《人工智能和数据法》,2024-2025 年起 5 年内累计投入 5000 万美元,创建加拿大 AI 安全研究所,以降低风险,保护加拿大人免受潜在危害。美国发布首个关于人工智能的国家安全备忘录,关注人工智能带来的风险与人类安全问题。对于国际机构和一些国家监督人工智能发展的积极性表态,我们理所应当给予掌声,但它们的正义之声能不能实现、对此做了多少努力、是否会落入一纸空文的可悲境地,则仍有待时间的考察。

制造商的自我约束与研究者的自觉

        某业界人士在 2024 年 3 月的一次对话中说到控制人工智能与伦理问题,表示行业内部在做,有监管制度。然而此种从业者表态是否可信,仍是一个巨大问题。对于他们主动提出建立内部管理机制的表态,公众固然可以予以肯定与欢迎,但更重要的是应本着 “听其言而观其行” 的原则,持续监督其实际行动,防止其以敷衍姿态掩盖责任,或流于空洞承诺。

        李飞飞在巴黎人工智能峰会演讲中倡导 “以人为本的 AI”,她说:“这(应对人工智能发展带来的挑战)也是我们本周齐聚一堂的目的所在。多年来,这个问题一直指引着我的工作。我深知这绝非易事,但有一个核心主题始终贯穿于我的所有研究工作,那就是我所倡导的三个重要价值观:尊严、能动性和社区”。“尊严”,就是用 AI 技术帮助所有人重拾尊严感,特别是那些弱势群体;“能动性” 意味着是不应将 AI 视为替代劳动力,而应充分利用 AI 来增强人类自身的能力;“社区”,是指由 AI 助力构建更完善、宏大、有凝聚力的社区。最后她呼吁 “我们需要构建一个更健康、更具活力的 AI 生态系统”。即以人为本研制 AI,维护弱势者尊严,增强劳动者智能,愿 AI 从业者都能 “以人为本”!

各界良知人士防范人工智能风险

        2024 年,诺奖得主谈 AI 风险与利益分配时指出:人工智能尚未超越人类,应担心的是不良的人,为追逐巨利,利用人工智能导致灾难性后果;应思考新生产力带来的利益分配是否合理。伦理学是人工智能时代最重要的学问,期盼人们能够利用这门学问抵制人工智能破坏人类社会伦理。

        谷歌前副总裁辛顿高度关注人工智能的安全风险。针对人工智能可能产生滥用与恶用、人工智能对人类可能造成的生存风险,辛顿不仅进行了理论探讨,还积极面向公众开展演讲,以提升公众对人工智能风险的认知。他公开呼吁科技公司和研究机构在开发 AI 系统时,要注重透明度、可控性和公平性;强调需要制定相关政策和法规来规范 AI 的发展。

        2024 年诺贝尔经济学奖得主达龙・阿西莫格鲁(Daron Acemoglu)和西蒙・约翰逊(Simon Johnson)指出:新技术的出现加速了社会不平等,历史上的科技发明被用作集中权力,AI 推动巨头集中财富。诺奖得主们主张对他们加税,用于教育等公益事业。同时,他也强调不能让少数人决策。

        《奇点临近》《奇点更近》的作者雷・库兹韦尔认为新技术将导致社会结构、经济、医学、教育等发生快速且不可预测的变化,会带来社会和伦理挑战。《奇点更近》探讨在不久的将来,技术的快速发展将永远改变人类的生活方式。

        陈奇佳、李昊翔指出:“从本质上说,AI 的大数据学习是建立在一系列潜在知识产权风险基础上形成的…… 到今天,如果还对其包裹的产权归属、数据来源的合法性等问题置若罔闻,必然削弱现实社会的民主、平等、正义或人权实践,并在事实上更容易助力于强力政治机构和资本力量。”人类社会良知人士担心人工智能风险的出现,力图及时阻止,态度鲜明而坚定。

2.未来史学应当发挥的作用

        面对人工智能对人类造成的上述危机,未来史学首先应注意以下五个方面。一、思考人工智能现在和将来给人类带来的福祉,人们怎样更好地利用,同时留意它的负面作用,不可以其为 “异类” 朋友而乐不可支、忘乎所以。二、认识人工智能业已给人类造成的灾害及其严重性,须知虚拟世界阻碍人类进行真正的情感交流,失去情感就是部分丧失人性,要从人类整体的视角观察其危害,切不可置若罔闻。三、提高防范人工智能风险意识,不能让人工智能主宰人类的精神世界,听其指挥而不能自拔,不可麻木不仁、掉以轻心。四、对制造害人人工智能软件的投资巨头和权势欲膨胀者,民众理应懂得听其言而观其行,揭露那些口是心非者,集思广益地评议,严肃地问责,发挥舆论力量、民主议政力量。五、人工智能时代的民众抱持迎接 AI 挑战的心态,需要具备与时代相符的科学知识和现代人格意识,正如龚克所说 “人们需要学会应用 AI 技能,这是必备技能,有益于工作和生活”。对此,西湖大学校长施一公也说:青年学生应对 AI 时代最重要的是,“学好基础知识,掌握批判性思维”;“AI 课程或可成为通识教育的一部分”。这将引导人们科学地享受人工智能带来的乐趣,并体察它可能对人类造成的致命危害。

        笔者在一定程度上认同这样的说法:“AI 学者可能会从功利出发研制产品,甚至不顾人类伦理;人文学者则会提醒之、争论之、与良知者共同纠正之。” 前述刘志伟曾基于人文学科的特点对人类在人工智能挑战中作 “主人” 持乐观态度,“要掌握自己的命运”,要坚守、发挥学科使命感,他说:人文学科更重视处理的情感、人性、审美,都不可能百分百合乎逻辑并且有确定性的理路。未来不可知,而 “人工智能处理的是一套已知的信息和运算”。“历史学是处理历史记忆的,但是我们也不要忘记,历史学更本质上其实是处理失忆的……(水平)最高的历史学家是处理失忆的,只有处理失忆,历史记忆才会一直跟着时间、空间的改变而变化。这个其实就是历史学的一句老话 —— 所有的历史都是当代史。”“我们人文学者就永远不是人工智能能够取代的,人类要掌握自己的命运,出路就在我们人文学者的使命要坚守好。”

        人工智能对人类的风险人们多有所知,笔者以为,防范风险的仁人志士需要组建社会团体,用团体的力量作为实现目标的一种保证。为此,团体需要在四个方面做出努力:一是向勇敢地揭示、呼吁防范人工智能风险者致以崇高敬意;二是向勇于接受 AI 挑战者致敬,佩服他们积极乐观的精神,满怀信心地生活;三是致力于提升大众风险意识,希望人人做好自身防范,并参与社会监督、支持大众维权,抗议监视民众隐私;四是讲求策略,实现监督。各个国家都有监察制度,审查违法的人,予以相应处置,社会团体去监督这些监察机构,促使它们尽职尽责,不允许政府不顾风险,一味开发人工智能,并促使政府用其权威防范不法的科技巨头可能造成的风险。监督是借助民间组织和舆论形成的社会压力,令执政者、投资巨头不得不有所克制。未来史学研究者应颂扬仁人志士以促进其活动,同时与他们一道争取人类社会健康发展,争取人类美好的未来。

、未来史学的建设之路

        本文以人机交互史为重要内容,讨论未来史学的研究对象,同时兼顾更广泛的整体史内容,包括日常生活史、人际关系史、政权演变史、伦理史、意识形态史、文学与艺术史等多个维度。笔者深知包括自己在内的多数史学研究者在知识结构与能力上尚难全面胜任如此庞杂的新领域,因此尤感研究者必须具备相应的思想准备与知识条件:不仅需保持独立思考的精神,还应具备跨越文理的综合素养,并积极尝试运用数据科学手段以提升研究的深度与质量。目前已有学者先行尝试将人工智能技术运用于未来史研究,笔者亦愿效仿其思路,对未来史学的基本构想作一初步概述。

1.未来史学的研究内容

        未来史学的基本立足点在于当下,其核心研究对象是当代与未来人机关系的动态演变。通过深入细致的分析,未来史学旨在揭示人工智能将如何被人类应用以提升生活质量,同时厘清其可能带来的多重风险,重点关注如何防止技术反噬、人类被其控制的可能性。因此,监测与规范人工智能的发展风险应成为未来史学不可或缺的研究内容,而揭露科技巨头与集权力量枉顾人类命运、推动技术滥用的行为,则是其重要使命之一。在研究视野上,未来史学并不抛弃传统史学所关注的政治、经济、文化与社会生活等领域,而是在此基础上作出调整与拓展。例如,传统的日常生活史将被重新审视,着眼于人机交互如何改变生活方式;生态环境史与医疗史原本重在考察人类维系生命与健康的历史,未来史学则进一步将 “保障人类生命安全” 上升为核心使命之一。如此,未来史学不仅是对传统史学议题的继承,更是以人工智能时代的新问题为导向的创新拓展。

        面对人工智能,生态环境史学者王利华基于多年的研究心得,在 2025 年 2 月写道:“想起了疫情以前组织的一次多学科会议,主题就是‘生命的意义’,那时想要面对的是加速剧变的人与自然关系。如今更加震慑的,是人与人的创造物之间的关系。人与人造生活世界的关系,应该也是环境史研究的题中之义吧?” 也就是说,研究生态环境史将仍然保留人与自然关系的传统内容,又把 “人造生活世界” 纳入生态环境史的思考。医疗史领军学者余新忠在《史学与医学的双向赋能 —— 医疗史与中国近代史研究刍议》中讲到运用人工智能技术进行研究,他写道:“展望未来,近代医疗史可望通过知识史与物质文化史两大路径,进一步融通内外,结合数字史学技术,发掘民间医疗文献资料,关注中西医汇通,深入探究中国医学的独特性与中国历史的演进过程,实现史学与医学的双向赋能……” 他提出使用 “数字史学技术”,即把人工智能技术用到医疗史研究中。谈到医疗史研究范式问题时,他预言:“在充分汲取现有范式有益成分的基础上,以人为本,着眼于生态和谐与生命健康,构建生态生命范式是完全可能的。”期盼他在人机交互的社会环境中对 “生态和谐与生命健康” 方向的研究作出贡献。再如情感史、心灵史的兴起,毫无疑问会成为未来史重点的研讨对象;同样,伦理学会被置于重要研治地位,其中的 “科技力量与道德力量不对称” 是必须严肃探究的课题。

        除了这些社会史、文化史研究内容的延伸,未来史着力分析某些政治势力企图利用人工智能强化对民众的控制,以及可能出现的科技 “帝国” 的对峙,这符合传统史学的政治史的研究范围,同时更关注人权史议题。自 2022 年 11 月 ChatGPT 发布、2025 年 1 月 DeepSeek 问世以来,人工智能迅速推动人类认知与研究方式的变革,全球史有望成为未来史学的重要拓展领域。在这一背景下,学者葛兆光多年来倡导的 “从中国出发的全球史” 研究愿景,也有望逐步实现。葛兆光主编的《从中国出发的全球史》由云南人民出版社出版后,曾在接受黄晓峰等人采访时详细阐述其研究方向,涵盖人类起源与全球互动、大航海时代以来世界联系的扩展、帝国的更替、战争与移民、物质与商品的跨境流通、宗教信仰与文化传播,以及气候变化与地理变迁等议题,特别强调中国与周边的关系,力图在全球视野中理解历史变动的整体过程。他所提出的 “从中国出发”,并非提出一个新的 “中心论”,而是意在打破传统中心主义的叙述框架,以联结与互动为核心,推进真正意义上的全球史叙述。在人工智能深刻重塑知识边界与方法体系的今天,这种以去中心化、跨地域联动为特征的全球史路径,恰与未来史学关注人类整体命运、文明走向和技术共生的取向高度契合。此外,传统史学中的民族史、国别史、区域史等领域,未来史学也会加以重视和突破。

2.研究者需要具备的知识素养

        未来史学的研究者应具备的基本素养,首要在于具备跨越文理的知识结构以及对人工智能的基本理解与运用能力。除了深厚的历史知识之外,未来史学的探索还要求研究者具备一定程度的人文学科素养(如哲学、文学、艺术)、社会科学素养(如经济学、法学、人类学)以及自然科学知识(如数学、物理学、化学、生物学、医学),以匹配人工智能时代对知识整合的需求。这不仅涉及知识储备的广度,也涉及对 AI 本体、机制与方法论的实质性理解,远不止于使用搜索引擎或下载资料的 “工具性” 操作,而要求理解 AI 的运行逻辑,并将其有效运用于史学研究。当前 AI 正以前所未有的速度拓展人类的脑力劳动能力,推动生产力的深层变革,未来史学的开展亦必须积极回应这一趋势。当然,这并不意味着每一位史学研究者都必须成为各领域的专家,而是必须掌握与时代相匹配的基本跨学科知识。若一位史家依然囿于传统史学的窠臼,仅靠史料爬梳而无视 AI 所带来的认知与方法革新,探索未来史学将无异于缘木求鱼。

        然而,当前的教育体尚未为这种跨学科需求作好准备。长期以来实行的高中文理分科制度,以及大学历史学系以人文学科为主导的招生与培养模式,已明显不合时宜。要培育具备未来史学潜力的研究者,就应从源头改革,打破文理壁垒,在高考招生中适当纳入自然科学、人类学、社会科学、数据科学等相关内容,推动通识教育与综合能力的培养。继续维持严格分科、割裂学科的体制,难以应对人工智能时代对史学家的新要求。

        笔者在此特别强调:要构建具有前瞻性的未来史学,就必须推动教育体制改革,培养具备文理兼修素养的复合型人才。正如王利华教授所形象提出的,历史学者应当成为 “拆墙者”—— 打破文理、学科、技术之间的樊篱。他曾在与 DeepSeek 的对话中阐述这一观点,而契机正是 2025 年 2 月 20 日南开大学智能体应用平台实现重磅升级,成功接入 DS 模型,昭示人文学科与人工智能深度融合的技术可能性与时代要求。次日,王利华发帖:“我在 NK-GeniOS 上开了个智能体,名曰‘拆墙者’。开篇第一问:‘拆文理科之墙为何那么困难’?回答是:教育体系的历史惯性;学科知识体系的差异;社会认知与就业导向;教育资源与评价机制的限制;文化与意识形态的阻力。提出突破路径与案例,跨学科教育模式,如美国的文理学院,强调通识教育。斯坦福大学的‘CS+X’项目允许计算机科学与伦理学、数字人文结合大数据技术与历史研究…… 要拆除文理分科的森严壁垒,改革教育体系,加强通识教育,势在必行。” 史学研究者确实要勇于做 “拆墙者”,争取达到文理兼通的学养要求。

3.研究者需要培养的精神态度

        如同其他学科一样,史学研究者应具备足够的胆识与独立思考能力,在思想自由的前提下开展探索,唯有如此,方有可能产出真正具有开创性的研究成果。投身史学,尤其是面向未来的新兴领域,更要求研究者怀抱勇气、秉持科学精神,在不确定性中坚持探索。正如陈寅恪所言,“独立之精神,自由之思想” 应是史家不可动摇的基本修养,否则便有负于历史学科的本质使命。

        未来史学作为一个崭新的研究方向,对研究者提出了更高的要求。这不仅意味着对未知领域的勇敢涉足,还意味着在方法论上的持续摸索。由于基础尚未建立,短期内难以实现厚积薄发,要取得突破往往需要在冷门中坚守,在孤独中耕耘。在当前注重成果产出的制度环境中,这类研究往往不受青睐,但若真有志于未来史学的开拓,就必须有 “自行其是” 的自觉。敢于探索新领域、发表可能不合时宜的观点,正是学术活力与创造精神的体现,研究者无须因循守旧、谨言慎行。没有独立见解与创新思维,就不是真正的学术研究。

        与此同时,未来史学的发展离不开跨学科的借鉴与整合。钱理群在 2025 年 3 月 15 日召开的《路翎全集》出版座谈会上指出,身处一个深刻转型的历史时代,人文学者有责任 “构建人与 AI 之间既支撑又制约的全新关系”。在这场人与人工智能的复杂博弈中,唯有激发好奇心、拓展想象力、释放创造力,才能为人类文明开辟新的发展路径。这一观点正道出了未来史学者所需具备的广阔视野与时代担当。

4.利用数据科学提升研究质量

        人工智能用于社会科学研究已有管理学教授米加宁、政治学家高奇琦、心理学教授邱林等学者作出综合说明,兹将其要点绍述于下。首先,认识到人工智能将影响所有学术领域的知识生产和传播,“人工智能不仅成为新一轮科技革命和产业革命的重要驱动力,而且深刻影响到包括社会科学在内的知识生产和传播”。其次,须知人工智能能够在多方面赋予学术研究能量,因为大数据的 ChatGPT 可以从文献综述、理论产生、研究设计、数据收集、数据分析等多个方面对社会科学研究赋能。最后,研究者需要有驾驭与聊天机器人对话的能力,具有更丰富的想象力、对全局的把控力和深度的洞察力。总之,要使用并善于使用人工智能工具协助学术研究。

        社会科学领域已纷纷对人工智能的冲击作出回应,历史学界亦不例外。2023 年 12 月 28 日,罗文大学教授王晴佳在复旦大学发表题为《数字化、人工智能和历史学的未来》的演讲,深入分析人工智能技术对史学研究范式与实践方式的影响。在此基础上,学者王申撰文《生成式人工智能与历史学研究的新可能》,进一步指出 AI 对史学的三方面推动力:一是促使史学数据库建设及其运用方式发生跃升式变革;二是推动史学议题向新的问题域积极转型;三是引入技术性风险,提出方法论上的挑战。他认为,人工智能的运用不仅将带来史学研究方式的跨越式进展,更为史学与其他学科之间的对话与合作提供了契机。在具体教学与研究实践中,高校教师也开始尝试将人工智能引入握方面仍存在明显短板,难以取代受过历史史学训练。白姗姗老师便尝试使用 AI 工具辅助史学写作,从翻译作业扩展到译注与校对等任务。她发现,AI 作为对话对象能够协助提供宏观结构与整体框架,具有一定的知识整合能力,但在史料理解与语境掌专业训练的研究者。这些探索表明,人工智能虽非全能,但作为工具与对话伙伴,已开始在历史学科中发挥实际作用。

命题式应用:借助人工智能获取结构化见解提升效率

        近年来,人工智能软件在辅助史学研究中的应用逐渐显现,尤以命题式提问为典型形式之一。通过设定具体问题,研究者可获得结构化的分析框架与观点输出,从而在一定程度上提高工作与学习效率。例如,有网络用户向 DeepSeek 提出 “AI 时代,中国史研究面临的挑战与机遇” 的命题,该系统所生成的回答大纲包括:数字鸿沟与本土化困境、技术赋能与方法创新、学科范式的转型路径、关键突破方向、典型案例解析,以及人机协同的新史学等六个方面。该回答在宏观结构的构建与核心议题的识别上,具有一定参考价值,尤其 “人机协同的新史学” 之提法,亦颇契合笔者对未来史学演化方向的理解。

        然而,这类生成内容也存在明显局限性。以该大纲为例,其未能涉及中国史研究与全球史发展的互动关系,反映出在主题深化与问题意识方面仍显浅表,整体上仍处于较为概括性的论述层次,尚未达到学术研究所需的精细化分析水准。

        此外,当向 DeepSeek 询问 “清史研究最具影响力的十位学者” 时,其回应多为当前在清史学界活跃的学者,如常建华、杨念群等人。而笔者向 ChatGPT 提出 “研究中国文学史的学者” 这一问题时,得到的名单亦多为 50-70 岁的当代学者。尽管这些回答符合 “当下语境中活跃度优先” 的逻辑,但若研究者希望获得历史学、文学史学术发展的长时段视角,例如追溯李何林、郭沫若、范文澜、郑天挺、雷海宗、李广田、何其芳等前辈学者的学术贡献,则需主动引导提问、持续深挖,这正体现了 “追问到底” 是获得较优答案的必要方法。综上所述,人工智能工具在生成分析大纲、引导研究方向等方面确有其启发性功能,尤其对初学者而言,有助于建立问题意识并提高学习效率。但研究者亦应保持审慎态度,警惕内容的表面化、片面性或潜在误导性,避免将 AI 生成结果视为权威答案,而应将其视为进一步深入探究的出发点。

重新发现研究课题:人工智能辅助中的思想触发机制

        人工智能在历史学研究中的潜力不仅体现在信息整合与结构化表达方面,也体现在其对研究者提出新课题、激发问题意识的辅助作用。笔者在与 AI 交互过程中,即不断从日常话语与文化联想中发掘出可资学术探讨的议题,显示出人工智能作为 “灵感触发器” 的积极意义。

        例如,在 AI 生成 “莫言” 一词的下联时两度提及老舍,笔者由此联想到一个可能的对比研究主题:老舍《茶馆》与王笛《茶馆》的跨媒介、跨学科比较研究。经向 ChatGPT 咨询后,其明确指出前者为文学戏剧作品,后者为历史社会学研究专著,确实反映了不同的学术传统与文本类型。虽然在内容层面无法直接类比,但这种 “错位” 恰恰为比较提供了理论空间,如对 “茶馆” 这一空间在文化、政治、叙事中的象征性分析。

        在与 ChatGPT 探讨司马迁 “究天人之际” 之意涵的过程中,笔者进一步思考了 “天命观” 在人工智能时代的转换与延伸,遂产生 “人工智能时代,人类是否仍能主宰自身命运:从古代‘天命’观念出发的思想考察” 这一问题意识,融合了历史哲学与技术伦理的视角。同时,笔者注意到人工智能技术迅速融入社会生活,引发了一系列价值观与生活方式的微妙变化。例如,诸如 “活在当下”“过好每一天” 之类的说法在中国社会中日渐流行,由此可以提出一系列相关研究问题,如:“人工智能时代中国人的消费观与人生观是否发生变化?具体体现为何?”“四川人所代表的闲适生活方式在技术驱动下是否具备可推广性?”“川菜为何能够在全球流行,而传统品牌如全聚德、狗不理却难以实现国际化?”“国际餐饮品牌(如熊猫餐厅、鼎泰丰)的全球传播机制是否具有文化转译与市场机制的独特路径?”

        在海外观察中,笔者注意到如美国、澳大利亚的居民住宅前庭空间常配置有椅子与茶几,然而使用率极低,形成 “空置的社交空间” 现象,这进一步激发笔者提出:“机械化社会带来的快节奏生活是否抹杀了人类原本拥有的慢节奏闲暇?而人工智能时代会重塑或加剧这种趋势吗?” 此类问题具有社会人类学与时间感知史的交叉研究价值。人工智能时代下的情感结构也值得关注。例如,从《红楼梦》中贾宝玉与薛宝钗的情感表现出发,笔者提出 “人工智能时代是否还能孕育出具有深度情感与复杂心理的少年男女形象?” 这一问题,涉及情感社会学、文学生成与心理发育等交叉议题。在治理结构方面,也可从传统延伸至未来:“清代地方治理‘皇权不下县’的体制特征如何在近现代发生演变?而在人工智能广泛介入的时代,地方治理是否可能迎来新一轮‘去中心化’或‘再集中化’?” 这一系列问题指向治理结构与技术介入的互动机制,亦可作为未来史学的重要议题。

开放式史料数据库:人工智能对史学资料检索的支持

         人工智能工具在史学研究中的另一个显著优势,是其对历史资料数据库的整合能力。以 DeepSeek 等 AI 系统为例,其已开始提供面向研究者的史料数据库检索指南,特别适合初学者进行历史资料的定位与获取。这类功能不仅优化了检索路径,也提升了史料获取的效率与系统性。目前可用于史学研究的数字史料平台可大致分为以下几类:综合性史料平台(如中国国家图书馆・数字古籍馆等)、国家与地区档案馆资源(如中国第一历史档案馆、美国国家档案馆、大英图书馆数字化手稿平台等)、专题性史料数据库(甲骨文世界、《申报》数据库等)。通过系统整合与引导访问,人工智能不仅作为史料检索的 “接口”,也逐步参与数据库资源的分类、标签化、语义联通等智能编排工作。未来,史学研究的 “进入门槛” 与 “信息获取效率” 将越发依赖于这一类人机协同的数据库生态。对于研究者而言,充分理解这些数据库的结构、权限与使用逻辑,已成为基本学术训练的重要一环。

研究者主体性坚守:人工智能工具的使用与批判性认知

       在人工智能日益嵌入历史学研究实践的背景下,明确研究者在知识生产过程中的主体地位显得尤为重要。研究人员与人工智能工具之间的关系,应当被界定为 “主体 - 工具” 关系,即研究者作为主导者,使用 AI 系统作为被动的信息提供器与方法辅助体,来服务于既定的研究目标与问题意识。然而,现实使用中 AI 系统存在诸多不可忽视的风险。已有大量用户指出,当前主流 AI 模型(如 ChatGPT、DeepSeek 等)存在 “胡编乱造”(hallucination)现象,表现为提供不实引用、伪造文献资料、虚构事实内容,或主动推送似是而非的建议与背景信息,进而可能误导研究方向。对此,研究者必须保持高度警惕,严防对 AI 生成内容的盲目接受,始终坚持对信息的主动甄别与反思式使用。

        为保障史学研究的基本学术规范与资料真实性,研究者在使用 AI 时应采取如下三项鉴别策略。一、直觉与知识经验判断:依赖既有学术知识体系对信息作出初步真伪识别,判断其是否合乎常识、逻辑与史实。二、信息交叉验证(内证法):对 AI 所提供的文献、数据、背景信息进行系统比对,利用 AI 系统内部提供的多个来源进行互证,从而检视其一致性与可信度。三、文本校勘与外部验证:将 AI 输出信息与权威出版的纸本文献、数据库资料进行逐一对勘,尤其对涉及研究结论的关键材料,更应依据史学考据学的方法展开严谨的版本辨析与原始出处核查。

        笔者在此重申,对人工智能提供的任何信息内容,尤其是涉及核心史料与关键分析环节者,务必进行复核,切忌盲信其表象输出。史学作为一门高度依赖文献实证的学科,其学术可靠性建立于对史料出处、版本、背景的严密把握之上,研究者唯有持续锤炼考据能力,方能避免因误用 AI 而陷入 “知识陷阱”。未来史学从历史学的视角关注未来社会人机关系,关注人类社会整体史。

结语

        未来史学作为应对人工智能时代挑战而提出的一种新兴史学方向,其核心任务在于:立足历史视角,系统分析人机关系的演化轨迹,深入探讨人工智能技术对社会结构、文化认知、政治机制以及生活方式所产生的多维影响。 

        未来史学致力于 “通古今之变,究人机之际”,尤其是在 “究人机之际” 方面,力图从现实经验出发,洞察人工智能对人类生活模式与社会运作逻辑的深刻重构。它强调识别与评估 AI 技术所具有的双重面向:既能造福社会,也潜藏伤害人类的可能,且其最终影响往往具有高度的不确定性。因此,未来史学不仅是知识生产的过程,更承载着价值判断与社会责任。尤为重要的是,未来史学应积极参与公共议题的讨论,关注推动人工智能发展的不同社会力量,包括不顾风险、一意孤行推进技术研发的行为主体,并与具备伦理意识与社会关怀的学界、公民团体协同努力,推动建立起合理的技术监督机制,确保人工智能的发展符合 “以人为本” 的伦理原则,防止其演变为权力控制或资本压迫的工具。