WEBVTT

00:00:00.000 --> 00:00:10.800
在大的算力公司或大的AI lab公司里

00:00:10.800 --> 00:00:14.500
他们实际上决定了人的科研方向能够往哪去

00:00:14.500 --> 00:00:18.600
如果他愿意把他整个的大量的算力

00:00:18.600 --> 00:00:22.400
大量的模型的新的能力暴露给他支持科研方向

00:00:22.400 --> 00:00:25.560
科研方向可能就有大踏步的前进拓展人类边界的可能

00:00:25.560 --> 00:00:29.260
以前统治者只统治我们传统意义上的权利

00:00:29.260 --> 00:00:33.840
现在AI lab的统治者可能统治了我们人类能知道什么的权利

00:00:33.840 --> 00:00:35.900
或者人类还能知道什么的权利

00:00:35.900 --> 00:00:45.640
我百分之百相信减速是不可能的

00:00:45.640 --> 00:00:49.100
从好的比较偏理想主义的角度来看

00:00:49.100 --> 00:00:52.720
就是这些所有的AI公司和AI科学家还有良心的这个角度来看

00:00:52.720 --> 00:00:54.560
他们现在在喊减速

00:00:54.560 --> 00:00:57.340
我觉得是因为他们遇到了一个临界点

00:00:57.340 --> 00:00:59.920
这个临界点就是我们说的就是RSI

00:00:59.920 --> 00:01:01.180
递归自我改进

00:01:01.180 --> 00:01:08.860
大家好

00:01:08.860 --> 00:01:11.100
欢迎来到新的一期虚实之间

00:01:11.100 --> 00:01:11.840
我是老饕

00:01:11.840 --> 00:01:13.060
我是活在当下

00:01:13.060 --> 00:01:15.300
之前我们有一期节目

00:01:15.300 --> 00:01:18.980
是当总把自己发在公众号上的一篇文章给扩写了

00:01:18.980 --> 00:01:21.360
就是那篇2030年的世界

00:01:21.880 --> 00:01:24.900
那篇不仅在你的公众号里面广受好评

00:01:24.900 --> 00:01:27.720
我们把它做成这个音频播客了之后

00:01:27.720 --> 00:01:28.740
反响也特别好

00:01:28.740 --> 00:01:30.060
我们还上了首页

00:01:30.060 --> 00:01:31.320
上了首页的编辑精选

00:01:31.320 --> 00:01:31.840
没注意

00:01:31.840 --> 00:01:34.040
但是我记得有一篇评论特别逗

00:01:34.040 --> 00:01:34.900
我到现在都记得

00:01:34.900 --> 00:01:35.400
他说什么

00:01:35.400 --> 00:01:36.720
讲得真好

00:01:36.720 --> 00:01:37.980
听了之后睡不着觉了

00:01:37.980 --> 00:01:40.240
然后最绝对是底下那个回复说

00:01:40.240 --> 00:01:42.480
那你把这篇博客发给AI

00:01:42.480 --> 00:01:43.640
让他分析分析有什么漏洞

00:01:44.260 --> 00:01:45.260
特别讽刺

00:01:45.260 --> 00:01:45.840
特别逗

00:01:45.840 --> 00:01:46.500
是的

00:01:46.500 --> 00:01:48.260
听众朋友们的智慧

00:01:48.260 --> 00:01:53.440
然后今天我们这一期当总又是把自己最近写的一篇文章

00:01:53.440 --> 00:01:54.720
扩展了一下

00:01:54.720 --> 00:01:58.140
想给观众朋友们来再带来一期深度的思考

00:01:58.140 --> 00:02:00.600
就从你的这个公众号的文章里面来的

00:02:01.160 --> 00:02:02.740
因为AI的事情

00:02:02.740 --> 00:02:05.020
现在大家都知道这个进步很快嘛

00:02:05.020 --> 00:02:07.020
然后有很多的这个新的东西出现

00:02:07.020 --> 00:02:09.660
因为我们制作一期播客还是需要时间的

00:02:09.660 --> 00:02:13.400
所以有的时候我觉得随手把自己的想法先写在文章里

00:02:13.400 --> 00:02:15.980
有的时候觉得想法真的还不错的

00:02:15.980 --> 00:02:19.380
要再把它拓展成一篇更长的这个播客内容

00:02:19.380 --> 00:02:20.960
那这篇文章呢

00:02:20.960 --> 00:02:22.520
其实是前段时间我看这个

00:02:22.520 --> 00:02:24.920
苹果发布新的折叠屏手机

00:02:24.920 --> 00:02:27.180
大家都知道他发布了这个iPhone多

00:02:27.180 --> 00:02:30.260
我看网上一堆人吹的比较多的

00:02:30.260 --> 00:02:32.400
就是这个折叠屏折叠式那个动画效果

00:02:32.400 --> 00:02:33.140
确实还不错

00:02:33.140 --> 00:02:33.680
看起来

00:02:33.680 --> 00:02:35.920
但当时我觉得这事很荒诞

00:02:35.920 --> 00:02:38.860
我倒不是说iPhone这个折叠手机做的不好

00:02:38.860 --> 00:02:41.760
但我感觉这有点像皇帝的新衣

00:02:41.760 --> 00:02:43.820
就说到这儿我先别个假

00:02:43.820 --> 00:02:45.940
就是我尊重粉丝行为

00:02:45.940 --> 00:02:47.400
也尊重媒体推广

00:02:47.400 --> 00:02:48.320
尊重个人偏好

00:02:48.320 --> 00:02:48.940
什么都尊重

00:02:48.940 --> 00:02:50.300
咱们突出一个respect

00:02:50.300 --> 00:02:51.580
辣不披萨

00:02:51.580 --> 00:02:55.080
但实事求是讲

00:02:55.080 --> 00:02:56.320
就苹果这个产品

00:02:56.320 --> 00:02:57.980
你就往大了说

00:02:57.980 --> 00:03:00.140
我觉得确实没有什么创新

00:03:00.140 --> 00:03:03.200
包括我看有的这些数码博主也评了

00:03:03.200 --> 00:03:04.040
就是任何一个东西

00:03:04.040 --> 00:03:06.320
其实本质上都已经在安卓手机

00:03:06.320 --> 00:03:07.520
后的其他地方出现过了

00:03:07.520 --> 00:03:08.540
你可以小心

00:03:08.540 --> 00:03:09.920
但凡这么说的数码博主

00:03:09.920 --> 00:03:11.560
这个评论区都非常的难看

00:03:11.560 --> 00:03:11.860
现在

00:03:11.860 --> 00:03:12.520
是吧

00:03:12.520 --> 00:03:13.380
没关系

00:03:13.380 --> 00:03:14.480
但我的意思就是说

00:03:14.480 --> 00:03:16.920
本质上这个创新是没有的

00:03:16.920 --> 00:03:18.500
至少在别的地方见过

00:03:18.500 --> 00:03:23.520
至少不是以前苹果产品给大家带来的那种感受

00:03:23.520 --> 00:03:24.740
震撼的感觉

00:03:25.020 --> 00:03:28.060
所以我就说这有点类似于皇帝的新衣

00:03:28.060 --> 00:03:30.680
你可以大声喝彩为了这种产品

00:03:30.680 --> 00:03:32.400
无论出于什么目的也好

00:03:32.400 --> 00:03:34.260
但是再大声的喝彩

00:03:34.260 --> 00:03:37.460
我觉得也挡不住一连必将落下的幕布

00:03:37.460 --> 00:03:39.740
但是我说的这个必将落下的幕布

00:03:39.740 --> 00:03:42.220
这不是苹果的问题

00:03:42.220 --> 00:03:44.160
而是全人类的问题

00:03:44.160 --> 00:03:45.780
所以你不用喷我

00:03:45.780 --> 00:03:47.320
我只是从这个引入

00:03:47.320 --> 00:03:48.560
让我感受到这一点

00:03:48.560 --> 00:03:50.280
我们的创新

00:03:50.280 --> 00:03:50.960
创造

00:03:50.960 --> 00:03:51.480
发明

00:03:51.480 --> 00:03:52.020
突破

00:03:52.020 --> 00:03:53.740
我觉得早已经进入一个

00:03:53.740 --> 00:03:55.320
并且持续处于一个

00:03:55.320 --> 00:03:56.620
无趣的时代

00:03:56.620 --> 00:03:58.380
为什么这么说呢

00:03:58.380 --> 00:04:00.580
就是一块不能折叠的屏幕

00:04:00.580 --> 00:04:01.420
现在可以折了

00:04:01.420 --> 00:04:02.600
它当然是这种进步

00:04:02.600 --> 00:04:03.980
但是这种进步

00:04:03.980 --> 00:04:06.420
跟我们小时候理解的那种发明创造

00:04:06.420 --> 00:04:07.040
我觉得已经

00:04:07.460 --> 00:04:08.320
不是一种东西了

00:04:08.320 --> 00:04:10.020
比如说飞机出现以前

00:04:10.020 --> 00:04:12.040
人类是真的不能飞的

00:04:12.040 --> 00:04:13.880
电话出现以前

00:04:13.880 --> 00:04:14.880
你没办法跟

00:04:14.880 --> 00:04:16.060
1000公里以外

00:04:16.060 --> 00:04:17.100
或者更远的人

00:04:17.100 --> 00:04:18.300
去及时的说话

00:04:18.300 --> 00:04:19.920
那互联网出现以前

00:04:19.920 --> 00:04:21.920
人类也从没有像现在这样一个

00:04:21.920 --> 00:04:24.220
全球实时连接的信息网络系统

00:04:24.220 --> 00:04:26.100
甚至像我们说

00:04:26.100 --> 00:04:27.180
抗生素出现以前

00:04:27.180 --> 00:04:28.760
一个普通的感冒

00:04:28.760 --> 00:04:29.400
普通的感染

00:04:29.400 --> 00:04:30.340
你可能就挂掉了

00:04:30.340 --> 00:04:32.180
这些东西本质上

00:04:32.180 --> 00:04:33.360
是一种质的区别

00:04:33.360 --> 00:04:35.560
它不是说你的效率提升了多少

00:04:35.560 --> 00:04:36.620
或者你优化了多少

00:04:36.620 --> 00:04:38.980
而是在这个东西出现以前

00:04:38.980 --> 00:04:39.920
人类做不到

00:04:39.920 --> 00:04:41.560
整个人类都做不到

00:04:41.560 --> 00:04:43.740
甚至从来没有想象过

00:04:44.300 --> 00:04:45.680
所以就是我们说

00:04:45.680 --> 00:04:46.820
我们小时候更习惯

00:04:46.820 --> 00:04:48.360
所谓的好的发明

00:04:48.360 --> 00:04:48.980
好的创造

00:04:48.980 --> 00:04:50.260
是零和一的区别

00:04:50.260 --> 00:04:52.420
所以我很早就有一个想法

00:04:52.420 --> 00:04:54.380
就真正意义上的突破性发明

00:04:54.380 --> 00:04:55.640
也许可以用一个

00:04:55.640 --> 00:04:57.420
很简单的标准来判断

00:04:57.420 --> 00:04:58.880
就是我刚才说的

00:04:58.880 --> 00:05:02.300
它有没有扩大人类可达的边界

00:05:02.300 --> 00:05:06.280
这也是为什么我们节目行做了两期SpaceX的原因

00:05:06.280 --> 00:05:09.640
我觉得就是我们还有希望看到人类可达的边界

00:05:09.640 --> 00:05:11.420
有拓展的可能性

00:05:11.420 --> 00:05:12.540
只要在SpaceX上

00:05:12.540 --> 00:05:14.440
虽然它现在也没有

00:05:14.440 --> 00:05:17.880
因为可重复火箭跟不可重复火箭

00:05:17.880 --> 00:05:19.700
本质上只是成本的问题

00:05:19.700 --> 00:05:20.480
对吧

00:05:20.480 --> 00:05:20.780
是的

00:05:20.780 --> 00:05:22.440
而不是说真正能力上的问题

00:05:22.440 --> 00:05:24.560
就可达边界上的问题是没有扩展的

00:05:24.560 --> 00:05:26.740
人以前到不了天上

00:05:26.740 --> 00:05:27.540
飞机让我们去了

00:05:27.540 --> 00:05:28.920
人以前也看不到细胞

00:05:28.920 --> 00:05:30.280
显微镜让我们看到了

00:05:30.280 --> 00:05:32.660
人以前也没办法在几秒钟之内

00:05:32.660 --> 00:05:34.880
把一段信息传到全世界

00:05:34.880 --> 00:05:35.960
但是互联网做到了

00:05:35.960 --> 00:05:38.600
所以我觉得这些东西本质上

00:05:38.600 --> 00:05:41.200
它是改变了人可以做什么

00:05:41.200 --> 00:05:43.900
或者人可以做成什么

00:05:44.120 --> 00:05:45.960
如果按照这个标准

00:05:45.960 --> 00:05:47.820
再看今天的科技行业

00:05:47.820 --> 00:05:49.860
我觉得就相当无趣

00:05:49.860 --> 00:05:51.540
所以这也是为什么我说

00:05:51.540 --> 00:05:54.700
我们长期的处于一个无趣的时代

00:05:54.700 --> 00:05:57.100
比如你的芯片在快20%

00:05:57.100 --> 00:05:59.980
你的手机里再多集成几个摄像头

00:05:59.980 --> 00:06:03.680
你的汽车从500公里续航到1000公里续航

00:06:03.680 --> 00:06:05.280
你的屏幕可以越来越薄

00:06:05.280 --> 00:06:06.240
现在又可以折起来

00:06:06.240 --> 00:06:08.440
甚至包括所谓的大量的软件创新

00:06:08.440 --> 00:06:10.480
其实最后解决的都是同一个问题

00:06:10.480 --> 00:06:12.660
就是把我们已经能够做到的事

00:06:12.660 --> 00:06:14.480
再做的方便一点

00:06:14.480 --> 00:06:15.780
成本低一点

00:06:15.780 --> 00:06:16.980
更快一点

00:06:16.980 --> 00:06:19.580
感觉就是颗粒度更细了

00:06:19.580 --> 00:06:21.400
当然这个也很重要

00:06:21.400 --> 00:06:24.380
我们知道比如说杰文斯贝论什么的这些东西

00:06:24.380 --> 00:06:25.620
大家最近老师都能想了

00:06:25.620 --> 00:06:28.180
把能做到的事做得更便宜

00:06:28.180 --> 00:06:29.520
这件事本身也很重要

00:06:29.520 --> 00:06:30.180
我不否认

00:06:30.180 --> 00:06:34.620
现代生活本来就是有无数这样的工程优化构成的

00:06:34.620 --> 00:06:36.960
但是我们更关心的是

00:06:36.960 --> 00:06:41.500
人类好像已经很久没有增加一种全新的能力了

00:06:41.500 --> 00:06:43.620
因为科技的突破发明

00:06:43.620 --> 00:06:46.300
所以我们开头说的这个零创新

00:06:46.300 --> 00:06:49.260
其实是按照我们后边这个标准来评判的

00:06:49.260 --> 00:06:49.960
就是说

00:06:49.960 --> 00:06:53.900
它到底有没有给人类增加一种真正全新的能力

00:06:53.900 --> 00:06:55.100
那显然是没有的

00:06:55.100 --> 00:06:56.520
站在我们这个角度上讲

00:06:56.520 --> 00:06:58.340
而现在呢

00:06:58.340 --> 00:07:00.340
我觉得一个更大的问题可能是

00:07:00.340 --> 00:07:04.260
我们现在好像也不期待这种人类能力增加的改变

00:07:04.260 --> 00:07:07.880
把这种越来越小的优化和改变

00:07:07.880 --> 00:07:09.440
庆祝的越来越隆重

00:07:09.440 --> 00:07:11.220
甚至必须要开发部会

00:07:11.220 --> 00:07:12.380
是谁都来开发部会

00:07:12.580 --> 00:07:15.340
我觉得这个是一件很有意思的事情

00:07:15.340 --> 00:07:18.560
经济学里其实很早就在讨论一个类似的问题

00:07:18.560 --> 00:07:21.220
就是说伟大的发明是不是本来就在变少

00:07:21.220 --> 00:07:23.140
就经济学家Robert Gordon

00:07:23.140 --> 00:07:25.040
他有一个非常著名的观点

00:07:25.040 --> 00:07:26.260
他认为

00:07:26.260 --> 00:07:30.120
大概从1870年到1970年这100年

00:07:30.120 --> 00:07:33.060
是人类历史上相当特殊的一个时期

00:07:33.060 --> 00:07:35.300
集中出现了像电力

00:07:35.300 --> 00:07:36.000
内燃机

00:07:36.000 --> 00:07:36.600
汽车

00:07:36.600 --> 00:07:36.960
飞机

00:07:36.960 --> 00:07:37.340
电话

00:07:37.340 --> 00:07:37.840
广播

00:07:37.840 --> 00:07:38.820
自来水

00:07:38.820 --> 00:07:39.960
现代卫生系统

00:07:39.960 --> 00:07:40.480
冰箱

00:07:40.480 --> 00:07:40.920
空调

00:07:40.920 --> 00:07:41.480
抗生素

00:07:41.480 --> 00:07:42.200
等等

00:07:42.200 --> 00:07:46.200
很多真正改变普通人基本生活方式的技术

00:07:46.200 --> 00:07:48.440
集中在这100年里出现的

00:07:48.440 --> 00:07:49.180
爆炸一样

00:07:49.440 --> 00:07:50.660
当然

00:07:50.660 --> 00:07:51.960
哥登主要是

00:07:51.960 --> 00:07:55.100
讨论的美国的这100年的历史

00:07:55.100 --> 00:07:56.800
当然其他的国家

00:07:56.800 --> 00:07:57.520
大家知道

00:07:57.520 --> 00:07:59.140
因为历史原先有先有后

00:07:59.140 --> 00:08:01.800
所以这些技术不是同步出现在全世界的

00:08:01.800 --> 00:08:04.340
他只是从美国的角度来讲这件事情

00:08:04.340 --> 00:08:06.560
但是你可以想象一下

00:08:06.560 --> 00:08:08.460
一个1870年出生的人

00:08:08.460 --> 00:08:10.000
他如果活到1970年

00:08:10.000 --> 00:08:10.820
他整活了100岁

00:08:10.820 --> 00:08:12.840
他小时候的生活

00:08:12.840 --> 00:08:14.080
可能还没有运上电

00:08:14.080 --> 00:08:15.020
也没有电话

00:08:15.020 --> 00:08:15.660
没有汽车

00:08:15.660 --> 00:08:16.700
没有现代下水道

00:08:16.700 --> 00:08:18.100
还在农业

00:08:18.100 --> 00:08:19.420
日出而作

00:08:19.420 --> 00:08:19.980
日落而息

00:08:19.980 --> 00:08:20.580
这种生活

00:08:20.580 --> 00:08:22.460
但是到了他的晚年

00:08:22.460 --> 00:08:23.580
电视

00:08:23.580 --> 00:08:24.020
冰箱

00:08:24.020 --> 00:08:24.420
汽车

00:08:24.420 --> 00:08:24.920
飞机

00:08:24.920 --> 00:08:27.480
包括现在医院都已经进入了生活

00:08:27.480 --> 00:08:28.280
而且稀从平常

00:08:28.280 --> 00:08:30.840
所以这种变化的烈度

00:08:30.840 --> 00:08:31.300
我觉得

00:08:31.300 --> 00:08:32.640
很难再

00:08:32.640 --> 00:08:33.720
出现一次

00:08:33.720 --> 00:08:35.540
因为所有的能力

00:08:35.540 --> 00:08:36.500
只能获得一次

00:08:36.500 --> 00:08:38.280
就类似于最佳新秀奖

00:08:38.280 --> 00:08:38.480
是吧

00:08:38.480 --> 00:08:39.480
就只有你参加新秀

00:08:39.480 --> 00:08:40.560
那第一年你才能获得

00:08:40.560 --> 00:08:42.920
后面不管你怎么训练的再厉害

00:08:42.920 --> 00:08:45.080
你都不可能回去拿到最佳新秀奖

00:08:45.080 --> 00:08:46.880
所以这种东西对人类的震撼

00:08:46.880 --> 00:08:48.220
也是一样的

00:08:48.220 --> 00:08:49.180
你第一次获得电

00:08:49.180 --> 00:08:50.980
和你把发电效率提高10%

00:08:50.980 --> 00:08:53.380
也许后者也很难

00:08:53.380 --> 00:08:56.200
甚至有可能后者带来的经济效率

00:08:56.200 --> 00:08:56.840
什么的更大

00:08:57.280 --> 00:08:57.840
有可能

00:08:57.840 --> 00:08:58.340
但是

00:08:58.340 --> 00:08:59.800
对人类的震撼

00:08:59.800 --> 00:09:01.720
肯定是不可相提并论的

00:09:01.720 --> 00:09:03.200
因为你已经欠过了

00:09:03.720 --> 00:09:05.060
包括第一次乘飞机

00:09:05.060 --> 00:09:06.360
能够跨越大洋的时候

00:09:06.360 --> 00:09:08.540
和你把飞行时间缩短半小时

00:09:08.540 --> 00:09:09.680
就你飞机飞得更快一点

00:09:09.680 --> 00:09:11.360
这个显然对人类的震撼

00:09:11.360 --> 00:09:11.920
也不是

00:09:11.920 --> 00:09:14.080
不是一个量级的东西

00:09:14.260 --> 00:09:15.520
那么还有一篇

00:09:15.520 --> 00:09:17.420
我觉得名字挺有意思的论文

00:09:17.940 --> 00:09:20.480
Ideals Getting Harder to Find

00:09:20.480 --> 00:09:22.600
就是想法是不是越来越难找了

00:09:22.600 --> 00:09:24.880
他研究了很多不同的行业

00:09:24.880 --> 00:09:26.900
最后发现了一个挺有意思的现象

00:09:26.900 --> 00:09:27.360
就是

00:09:27.360 --> 00:09:30.140
人类投入科研的人才

00:09:30.140 --> 00:09:30.960
就是人力物力

00:09:30.960 --> 00:09:31.860
其实越来越多的

00:09:31.860 --> 00:09:33.320
不管是这个钱也好

00:09:33.320 --> 00:09:34.200
还是人才也好

00:09:34.200 --> 00:09:37.720
但为了维持同样的技术进步速度

00:09:37.720 --> 00:09:39.400
需要投入的资源

00:09:39.400 --> 00:09:40.560
要越来越多了

00:09:40.560 --> 00:09:42.360
比如说最典型的

00:09:42.360 --> 00:09:43.820
像维持摩尔定律

00:09:43.820 --> 00:09:45.300
那么在这个论文里

00:09:45.300 --> 00:09:46.060
他们研究了

00:09:46.060 --> 00:09:47.100
现在要

00:09:47.100 --> 00:09:49.080
投入的研究人员数量

00:09:49.080 --> 00:09:50.360
就同样是维持摩尔定律

00:09:50.360 --> 00:09:52.540
比上世纪70年代

00:09:52.540 --> 00:09:54.140
大概高了18倍

00:09:54.140 --> 00:09:55.420
这是他们的估算

00:09:55.420 --> 00:09:57.020
所以这个结论

00:09:57.020 --> 00:09:59.840
我觉得跟我们平常在历史书里

00:09:59.840 --> 00:10:03.600
尤其是科学的历史故事里感受到的氛围是一样的

00:10:03.600 --> 00:10:05.240
像牛顿那个年代

00:10:05.240 --> 00:10:07.840
你一个人一张纸一支笔

00:10:07.840 --> 00:10:11.780
可能就能开辟一个新的数学或者物理学领域

00:10:11.780 --> 00:10:12.240
对吧

00:10:12.240 --> 00:10:15.560
莱特兄弟他本来是开自行车店的

00:10:15.560 --> 00:10:17.240
但是他敢去造飞机

00:10:17.240 --> 00:10:18.500
而且真的能造出飞机了

00:10:18.500 --> 00:10:22.320
但今天如果你想把芯片再往前推进一代

00:10:22.320 --> 00:10:24.400
那你背后肯定有ASML

00:10:24.400 --> 00:10:25.340
台积电

00:10:25.340 --> 00:10:27.180
这EDA的软件

00:10:27.180 --> 00:10:28.500
半导体材料

00:10:28.500 --> 00:10:30.220
高端的封装设备等等

00:10:30.220 --> 00:10:31.620
垃圾八糟一堆东西

00:10:31.620 --> 00:10:33.500
再加上全世界不知道多少

00:10:33.500 --> 00:10:36.480
工程师的设计师的大脑要共同协作

00:10:36.480 --> 00:10:38.740
你才能把这个再往前推进一代

00:10:38.740 --> 00:10:41.600
它对比上代可能也只是提升了百分之二三十

00:10:41.600 --> 00:10:43.160
能耗减少百分之多少

00:10:43.160 --> 00:10:45.160
然后工作效率提高百分之多少

00:10:45.160 --> 00:10:45.800
也就是这样了

00:10:45.800 --> 00:10:46.000
对吧

00:10:46.000 --> 00:10:49.480
所以人类今天其实投入创新的资源

00:10:49.480 --> 00:10:51.100
可能比历史上任何一个时代都大

00:10:51.100 --> 00:10:53.280
我们看现在AI的这种

00:10:53.280 --> 00:10:55.400
史诗级别的开派x投入

00:10:55.400 --> 00:10:55.780
对吧

00:10:55.780 --> 00:10:58.540
只不过是那些容易摘的果子

00:10:58.540 --> 00:11:00.440
可能真的已经被人类摘得差不多了

00:11:00.440 --> 00:11:01.460
剩下的就是越来越难

00:11:01.460 --> 00:11:03.620
所以你要维持相同的进步速度

00:11:03.620 --> 00:11:05.980
你可能需要更多的这种

00:11:05.980 --> 00:11:08.120
人力物力的财力的资源投入

00:11:08.120 --> 00:11:09.940
对因为本来你的技术

00:11:09.940 --> 00:11:11.100
在不断发展的过程中

00:11:11.100 --> 00:11:12.740
你的分工肯定也越来越细了

00:11:12.740 --> 00:11:13.880
就比如说刚才你说

00:11:13.880 --> 00:11:15.580
芯片的这种进步

00:11:15.580 --> 00:11:17.400
它其实你要调动的资源

00:11:17.400 --> 00:11:19.620
你要协同的方面

00:11:19.620 --> 00:11:20.740
肯定是越来越多

00:11:20.740 --> 00:11:22.380
所以自然而然成本就越高

00:11:22.380 --> 00:11:22.680
是的

00:11:22.680 --> 00:11:25.040
所以我们讲这些东西

00:11:25.040 --> 00:11:26.200
只是为了告诉大家

00:11:26.200 --> 00:11:26.760
我们知道

00:11:26.760 --> 00:11:28.920
就是说我们的感受的反方

00:11:28.920 --> 00:11:30.560
也是非常立得住脚的

00:11:30.840 --> 00:11:33.940
并不是说只单纯阐述自己片面的感受

00:11:34.200 --> 00:11:36.040
实事求是讲

00:11:36.040 --> 00:11:38.000
提升了百分之多少这件事情

00:11:38.000 --> 00:11:40.700
真的算不上提升了人类的边界

00:11:40.700 --> 00:11:41.700
或者来人的边界

00:11:41.700 --> 00:11:45.060
至少它很难给我们带来那种感觉

00:11:45.060 --> 00:11:46.860
就是原来世界还可以这样

00:11:46.860 --> 00:11:48.700
原来人类还可以这样

00:11:48.700 --> 00:11:51.660
所以AI刚出来的时候

00:11:51.660 --> 00:11:53.120
其实我是很兴奋的

00:11:53.120 --> 00:11:56.700
在我23年4月的关于AI的研究文章里

00:11:56.700 --> 00:11:57.360
就写了

00:11:57.360 --> 00:11:59.800
就是说科研是人类进步的速度

00:11:59.800 --> 00:12:01.840
AI能加速科研

00:12:01.840 --> 00:12:03.260
所以AI是速度的速度

00:12:03.260 --> 00:12:04.100
也就是加速度

00:12:04.100 --> 00:12:05.820
这些东西

00:12:05.820 --> 00:12:07.320
我觉得当时在公众号里

00:12:07.320 --> 00:12:08.680
大家现在可以去翻翻

00:12:08.680 --> 00:12:09.800
也许我可能是你身边

00:12:09.800 --> 00:12:12.160
第一个提出AI for science的人

00:12:12.160 --> 00:12:14.560
原因其实也很简单

00:12:14.560 --> 00:12:16.740
因为科研其实也是一种生产活动

00:12:16.740 --> 00:12:17.120
对吧

00:12:17.120 --> 00:12:18.080
像提出问题

00:12:18.080 --> 00:12:19.000
查文献

00:12:19.000 --> 00:12:20.600
形成假设

00:12:20.600 --> 00:12:21.480
设计实验

00:12:21.480 --> 00:12:22.920
处理数据

00:12:22.920 --> 00:12:24.140
再根据这些结果

00:12:24.140 --> 00:12:24.980
形成新的理论

00:12:24.980 --> 00:12:26.640
然后再反馈循环

00:12:26.640 --> 00:12:29.280
那么如果过去这个循环需要一年

00:12:29.280 --> 00:12:31.200
那AI把它缩短到一个月

00:12:31.200 --> 00:12:33.160
那么它加速的就不是某一个

00:12:33.160 --> 00:12:34.580
单独的具体的行业了

00:12:34.580 --> 00:12:37.420
而是所有技术进步背后的

00:12:37.420 --> 00:12:38.800
这个工作链条

00:12:38.800 --> 00:12:40.000
都被它加速了

00:12:40.000 --> 00:12:42.820
而且这个加速还有一个很特别的地方

00:12:42.820 --> 00:12:45.580
就是AI自己本身也是科研的产物

00:12:45.580 --> 00:12:47.520
所以AI能力提高以后

00:12:47.520 --> 00:12:49.800
可以帮助我们设计新的算法

00:12:49.800 --> 00:12:50.700
新的芯片

00:12:50.700 --> 00:12:51.540
新的模型

00:12:51.540 --> 00:12:53.800
那新的芯片和算法

00:12:53.800 --> 00:12:54.500
还有新的模型

00:12:54.500 --> 00:12:56.200
又会帮助AI再继续提高

00:12:56.200 --> 00:12:56.980
自加强

00:12:56.980 --> 00:12:59.840
这不就是现在大家所谓讲的RSI

00:12:59.840 --> 00:13:01.520
但是现在更多人讲RSI

00:13:01.520 --> 00:13:02.720
可能是模型自己

00:13:02.720 --> 00:13:04.300
迭代下一代模型

00:13:04.300 --> 00:13:06.760
但我们把它上游的对半导体设计

00:13:06.760 --> 00:13:08.600
半导体制造的环节也加上

00:13:08.600 --> 00:13:09.720
它可能是一个大的RSI

00:13:09.720 --> 00:13:13.400
所以这里面其实有个很明显的反馈循环

00:13:13.400 --> 00:13:14.400
就是AI越强

00:13:14.400 --> 00:13:15.180
科研越强

00:13:15.180 --> 00:13:16.600
那么如果科研越强的话

00:13:16.600 --> 00:13:17.980
AI可能也能进步得越快

00:13:17.980 --> 00:13:19.580
所以它是一个非常特别的

00:13:19.580 --> 00:13:22.980
那么如果这个循环最终能够建立起来的话

00:13:22.980 --> 00:13:26.620
我们相信科技发展的邪律一定会加速

00:13:26.620 --> 00:13:29.420
这个是我23年的看法

00:13:29.420 --> 00:13:31.900
也就是我曾经如此的技术乐观

00:13:31.900 --> 00:13:32.160
是吧

00:13:32.160 --> 00:13:32.540
技术乐观

00:13:32.540 --> 00:13:33.720
这是一个典型的技术乐观主义

00:13:33.720 --> 00:13:37.480
跟现在的大量的人的叙事

00:13:37.480 --> 00:13:38.880
其实是一样的

00:13:38.880 --> 00:13:40.520
现在很多人还持有我

00:13:40.520 --> 00:13:41.700
大家23年的这个看法

00:13:41.700 --> 00:13:43.840
他们基于这样的逻辑推演

00:13:43.840 --> 00:13:47.160
我们不是进入了一个发明枯竭的时代

00:13:47.160 --> 00:13:48.960
就像我说的一个无趣的时代

00:13:48.960 --> 00:13:50.940
而只是靠人脑

00:13:50.940 --> 00:13:53.400
能比较容易发现的东西越来越少

00:13:53.400 --> 00:13:54.860
低垂的果子摘吧

00:13:54.860 --> 00:13:55.100
对吧

00:13:55.100 --> 00:13:55.960
刚才我们讲的这些

00:13:55.960 --> 00:13:57.880
那么现在人类发明了AI

00:13:57.880 --> 00:14:00.200
它会替我们继续往前探索

00:14:00.200 --> 00:14:01.080
于是新材料

00:14:01.080 --> 00:14:02.040
新药物

00:14:02.040 --> 00:14:02.600
新能源

00:14:02.600 --> 00:14:03.380
新数学

00:14:03.380 --> 00:14:05.020
甚至新的物理理论

00:14:05.020 --> 00:14:06.240
又会大量涌现出来

00:14:06.240 --> 00:14:07.480
换句话说

00:14:07.480 --> 00:14:09.060
按照这个叙事

00:14:09.060 --> 00:14:11.400
人类先经历了一个伟大发明

00:14:11.400 --> 00:14:12.380
越来越少的时代

00:14:12.380 --> 00:14:14.080
就是我所谓的无趣时代

00:14:14.080 --> 00:14:15.280
然后发明了一个

00:14:15.280 --> 00:14:18.220
能够帮助我们继续发明的东西

00:14:18.220 --> 00:14:19.240
就是AI

00:14:19.240 --> 00:14:21.860
我不知道现在大家还有多少人

00:14:21.860 --> 00:14:23.780
持有这样的叙事观

00:14:23.780 --> 00:14:25.900
就是对AI持有这样的看法

00:14:25.900 --> 00:14:27.640
但从我的期待来看

00:14:27.640 --> 00:14:29.320
这个变化其实比我想象的慢

00:14:29.320 --> 00:14:31.100
因为你看我23年就这么想这个问题

00:14:31.100 --> 00:14:32.880
但是大家能看到

00:14:32.880 --> 00:14:36.940
明确说AI真的拓展了人类边界这件事情

00:14:36.940 --> 00:14:39.600
可能是最近才出现的

00:14:39.600 --> 00:14:41.340
因为之前那些东西

00:14:41.340 --> 00:14:44.120
比如说写代码更快

00:14:44.120 --> 00:14:45.020
更工整

00:14:45.020 --> 00:14:46.060
更合理

00:14:46.060 --> 00:14:47.580
找资料更方便

00:14:47.580 --> 00:14:49.300
辅助分析更有效率

00:14:49.300 --> 00:14:49.960
能够帮你

00:14:49.960 --> 00:14:51.040
操作你的电脑

00:14:51.040 --> 00:14:53.360
这些东西实际就是讲人可以做

00:14:53.360 --> 00:14:54.360
对吧

00:14:54.360 --> 00:14:56.960
所以就是本质上它没有扩展人类的边界

00:14:56.960 --> 00:14:58.620
只是帮你做的更快

00:14:58.620 --> 00:14:59.320
或者更好

00:14:59.320 --> 00:15:00.120
那么

00:15:00.120 --> 00:15:02.780
为什么说前段时间可能真的出现了

00:15:02.780 --> 00:15:04.480
这个拓展人类边界的能力

00:15:04.480 --> 00:15:07.040
大家知道前段时间吹沸沸扬扬扬的

00:15:07.040 --> 00:15:08.700
NS方程的那个事

00:15:08.700 --> 00:15:12.260
NS就是纳维耶斯托克斯方程

00:15:12.260 --> 00:15:13.920
描述流体运动

00:15:13.920 --> 00:15:16.500
一个比较难的数学难题吧

00:15:16.500 --> 00:15:17.660
大概讲的好像是

00:15:17.660 --> 00:15:20.760
三维流体从平滑状态出发

00:15:20.760 --> 00:15:23.580
然后方程的解能不能一直保持良好性质

00:15:23.580 --> 00:15:26.620
还是有可能在有限的时间里出现起点

00:15:26.620 --> 00:15:27.660
大概讲不正事

00:15:27.660 --> 00:15:28.980
其实我也不知道我在说啥

00:15:28.980 --> 00:15:32.380
但是反正是一个人类的

00:15:32.380 --> 00:15:34.940
很多年没有解决的一些数学问题

00:15:34.940 --> 00:15:36.160
大家可以这么理解

00:15:36.160 --> 00:15:38.860
那么就在前不久

00:15:38.860 --> 00:15:39.840
9月8号的时候

00:15:39.840 --> 00:15:43.720
OpenAI宣布内部系统给出了一个证明

00:15:43.720 --> 00:15:46.300
并且公开了这个论文和

00:15:46.300 --> 00:15:47.840
Lean形式化的证明

00:15:47.840 --> 00:15:49.300
Lean就是LEAN

00:15:49.300 --> 00:15:51.940
它是一种严格检查逻辑步骤的软件

00:15:51.940 --> 00:15:54.740
就是通过了这个软件的一种证明

00:15:54.740 --> 00:15:56.080
相当于这个软件

00:15:56.080 --> 00:15:57.420
就是检查你这个证明过程

00:15:57.420 --> 00:15:58.180
是不是科学的

00:15:58.180 --> 00:15:59.340
对是不是逻辑的

00:15:59.340 --> 00:16:00.040
是不是有问题的

00:16:00.040 --> 00:16:02.200
按照OpenAI的披露

00:16:02.200 --> 00:16:04.280
找到结果的那一组

00:16:04.280 --> 00:16:07.260
使用了大概约1万个并行的智能体

00:16:07.260 --> 00:16:08.300
就是我们所说的agent

00:16:08.300 --> 00:16:11.700
分工去执行相关的任务

00:16:11.700 --> 00:16:13.720
然后把这个证明解出来

00:16:13.720 --> 00:16:14.860
大家证明一个情况

00:16:14.860 --> 00:16:16.840
那克雷数学研究所

00:16:16.840 --> 00:16:18.880
随后他表示对这个结果很期待

00:16:18.880 --> 00:16:21.880
同时说明评价和贡献认定

00:16:21.880 --> 00:16:24.620
仍需通过这个审慎的程序

00:16:24.620 --> 00:16:27.360
所以他还在等待整个程序的判定

00:16:27.360 --> 00:16:28.880
所以目前来说呢

00:16:28.880 --> 00:16:30.240
这个重大的证明

00:16:30.240 --> 00:16:31.660
成果反正是公布了

00:16:31.660 --> 00:16:34.260
但是整个的评定还在进行

00:16:34.260 --> 00:16:36.380
但是这个事被传出来

00:16:36.380 --> 00:16:38.280
并且在这个舆论中非常的火爆

00:16:38.280 --> 00:16:39.640
主要是因为

00:16:39.640 --> 00:16:42.080
有两个数学家已经提出了

00:16:42.080 --> 00:16:43.740
一些相关的思路和解法

00:16:43.740 --> 00:16:45.760
并且这些东西

00:16:45.760 --> 00:16:47.820
就是跟这个OpenAI沟通了

00:16:47.820 --> 00:16:49.280
跟那个GPT沟通了

00:16:49.280 --> 00:16:51.440
所以他们当时把这个事报出来

00:16:51.440 --> 00:16:53.180
就是觉得GPT

00:16:53.180 --> 00:16:54.980
剽窃了他们的成果

00:16:54.980 --> 00:16:57.540
至少是借鉴了他们的思路

00:16:57.540 --> 00:16:58.680
那不能叫剽窃了成果

00:16:58.680 --> 00:16:59.520
因为他们没解出来

00:16:59.520 --> 00:17:00.920
他们只是找到了方向

00:17:00.920 --> 00:17:01.600
你可以这么理解

00:17:01.600 --> 00:17:03.300
这个时候我们会再聊

00:17:03.300 --> 00:17:05.280
我在这用这个例子的原因

00:17:05.280 --> 00:17:07.200
只是因为AI帮我们

00:17:07.200 --> 00:17:09.160
真的拓展了人类的边界

00:17:09.160 --> 00:17:10.700
因为它确实在科研的

00:17:10.700 --> 00:17:11.700
尖端问题上

00:17:11.700 --> 00:17:12.540
解除了一个人类

00:17:12.540 --> 00:17:13.220
没给出来的解

00:17:13.220 --> 00:17:14.580
从结果上看

00:17:14.760 --> 00:17:16.400
我们不讨论这些伦理问题

00:17:16.400 --> 00:17:17.000
或者伦理问题

00:17:17.000 --> 00:17:18.100
在后面深入的部分

00:17:18.100 --> 00:17:18.980
我们再讨论

00:17:18.980 --> 00:17:20.860
只是从结果上讲

00:17:20.860 --> 00:17:22.760
它到现在

00:17:22.760 --> 00:17:24.140
我感觉才

00:17:24.140 --> 00:17:25.780
比较严格意义上的说

00:17:25.780 --> 00:17:27.780
帮我们拓展了人类的边界

00:17:27.780 --> 00:17:29.660
所以这个距离

00:17:29.660 --> 00:17:31.220
我二三年的想法

00:17:31.220 --> 00:17:34.120
其实已经过去了三四年了

00:17:34.440 --> 00:17:36.680
如果按照当时的想法

00:17:36.680 --> 00:17:37.400
我觉得

00:17:37.400 --> 00:17:39.320
这时候我们应该很高兴

00:17:39.320 --> 00:17:41.540
因为AI开始帮助人类

00:17:41.540 --> 00:17:42.620
产生新的知识

00:17:42.620 --> 00:17:44.820
我所觉得的

00:17:44.820 --> 00:17:46.320
大无趣时代

00:17:46.320 --> 00:17:47.560
可能要被终结了

00:17:47.560 --> 00:17:47.760
对吧

00:17:47.760 --> 00:17:48.560
被AI终结了

00:17:48.560 --> 00:17:50.100
大家听过我

00:17:50.100 --> 00:17:52.060
2030年的那期节目的话

00:17:52.060 --> 00:17:53.380
就应该知道

00:17:53.380 --> 00:17:54.800
我们在逐渐的

00:17:54.800 --> 00:17:56.040
深入的思考的过程中

00:17:56.040 --> 00:17:56.740
对技术

00:17:56.740 --> 00:17:57.580
对人类生活的影响

00:17:57.580 --> 00:17:59.520
开始有更深层次的理解

00:17:59.520 --> 00:18:00.900
所以我觉得

00:18:00.900 --> 00:18:02.780
在原来那个乐观的

00:18:02.780 --> 00:18:04.300
就是技术乐观主义的故事里

00:18:04.300 --> 00:18:05.760
可能现在很多人

00:18:05.760 --> 00:18:06.800
包括像

00:18:06.800 --> 00:18:07.920
华尔勋这样的人

00:18:07.920 --> 00:18:09.260
至少他明面上都讲了这些

00:18:09.260 --> 00:18:10.340
技术乐观叙事

00:18:10.340 --> 00:18:11.600
在这套叙事里

00:18:11.600 --> 00:18:11.840
我觉得

00:18:11.840 --> 00:18:13.260
有一个前提

00:18:13.260 --> 00:18:14.920
可能没有仔细想清楚

00:18:14.920 --> 00:18:16.160
这也是我

00:18:16.160 --> 00:18:17.680
写一篇文章也好

00:18:17.680 --> 00:18:18.540
也是制作本期

00:18:18.540 --> 00:18:19.620
博客内容也好的

00:18:19.620 --> 00:18:21.460
一个大的想法

00:18:21.460 --> 00:18:25.020
AI拓宽人类知识边界的方式

00:18:25.020 --> 00:18:26.820
和飞机把人带上天空

00:18:26.820 --> 00:18:28.240
在本质上是一回事

00:18:28.240 --> 00:18:30.940
大家可以带着这种疑问

00:18:30.940 --> 00:18:31.540
去思考

00:18:31.540 --> 00:18:32.740
当然我有我的理解

00:18:32.740 --> 00:18:34.560
飞机当然是工具

00:18:34.560 --> 00:18:36.460
但是飞机飞得再快

00:18:36.460 --> 00:18:38.200
最后还是人在飞

00:18:38.200 --> 00:18:39.880
显微定再强

00:18:39.880 --> 00:18:41.060
最后还是人在观察

00:18:41.700 --> 00:18:42.880
计算机帮我们做

00:18:42.880 --> 00:18:43.880
再复杂的事情

00:18:43.880 --> 00:18:45.300
最后还是人提出问题

00:18:45.300 --> 00:18:46.780
并且理解结果

00:18:46.780 --> 00:18:48.860
那火箭把我们送上月球

00:18:48.860 --> 00:18:50.760
我们也会很自然

00:18:50.760 --> 00:18:51.580
甚至很自豪的

00:18:51.580 --> 00:18:52.080
说上一句

00:18:52.080 --> 00:18:53.360
我的一小步

00:18:53.360 --> 00:18:54.020
人类一大步

00:18:54.020 --> 00:18:55.860
这仍然是人类登上了月球

00:18:55.860 --> 00:18:58.640
过去技术和人的关系

00:18:58.640 --> 00:18:59.760
我觉得一直相对来说

00:18:59.760 --> 00:19:00.740
是比较稳定的

00:19:00.740 --> 00:19:02.960
就是技术是人的眼神

00:19:02.960 --> 00:19:04.380
我们不用波兹曼那种

00:19:04.380 --> 00:19:05.300
特别悲观的角度

00:19:05.300 --> 00:19:06.440
或者说特别批判的角度假

00:19:06.440 --> 00:19:07.780
但是智商还是

00:19:07.780 --> 00:19:09.420
技术是人的眼神

00:19:09.420 --> 00:19:11.580
比如说汽车是腿的眼神

00:19:11.580 --> 00:19:13.260
望眼镜是眼睛的眼神

00:19:13.260 --> 00:19:14.920
互联网某种程度上

00:19:14.920 --> 00:19:16.360
是神经系统的眼神

00:19:16.360 --> 00:19:18.320
计算机是计算能力的眼神

00:19:18.320 --> 00:19:20.000
不管工具多强

00:19:20.000 --> 00:19:21.380
最后主体是人

00:19:21.380 --> 00:19:23.460
所以技术的边界扩大

00:19:23.460 --> 00:19:24.520
基本上也等于

00:19:24.520 --> 00:19:26.180
人的能力的边界的扩大

00:19:26.180 --> 00:19:28.240
那么AI会不会

00:19:28.240 --> 00:19:29.660
让这件事变得不同呢

00:19:29.660 --> 00:19:30.820
把这两件事分开呢

00:19:30.820 --> 00:19:33.360
以后技术的边界扩大

00:19:33.360 --> 00:19:34.600
真的还意味着

00:19:34.600 --> 00:19:36.240
人的能力的边界扩大吗

00:19:36.240 --> 00:19:37.300
我觉得这是一个

00:19:37.300 --> 00:19:38.160
值得思考的问题

00:19:38.160 --> 00:19:39.540
比如有一天

00:19:39.540 --> 00:19:40.900
AI证明了一个

00:19:40.900 --> 00:19:42.360
没有任何人类科学家

00:19:42.360 --> 00:19:43.360
能够理解的定理

00:19:43.360 --> 00:19:44.860
这是有可能的吧

00:19:44.860 --> 00:19:47.660
然后AI用这个数学工具

00:19:47.660 --> 00:19:48.320
或者这个定理

00:19:48.320 --> 00:19:49.640
设计出一种新的材料

00:19:49.640 --> 00:19:50.840
人类工程师

00:19:50.840 --> 00:19:52.080
其实也解释不了

00:19:52.080 --> 00:19:53.020
为什么这种结构

00:19:53.020 --> 00:19:53.760
就是最优的

00:19:53.760 --> 00:19:55.560
接着自动化实验室

00:19:55.560 --> 00:19:56.220
完成验证

00:19:56.220 --> 00:19:57.440
机器再把它制造出来

00:19:57.440 --> 00:19:58.880
再用这个材料

00:19:58.880 --> 00:20:00.060
制造下一代机器

00:20:00.060 --> 00:20:01.640
而下一代AI

00:20:01.640 --> 00:20:03.040
又建立在这套机器上

00:20:03.040 --> 00:20:04.080
继续研究

00:20:04.080 --> 00:20:05.060
那么这件事

00:20:05.060 --> 00:20:06.620
就开始逐渐脱离人类了

00:20:06.620 --> 00:20:08.800
这里面每一步

00:20:08.800 --> 00:20:10.380
其实都真实的

00:20:10.380 --> 00:20:11.980
拓展了文明的边界

00:20:11.980 --> 00:20:13.120
因为你显然不知道嘛

00:20:13.120 --> 00:20:13.880
以前这些东西

00:20:13.880 --> 00:20:14.180
对吧

00:20:14.180 --> 00:20:15.180
所以你才不能理解

00:20:15.180 --> 00:20:18.260
但人在哪里

00:20:18.260 --> 00:20:19.000
就人这个字

00:20:19.000 --> 00:20:20.040
在这句话的哪里

00:20:20.040 --> 00:20:21.080
我觉得这不简单

00:20:21.080 --> 00:20:22.020
是一个文字游戏

00:20:22.020 --> 00:20:23.980
过去的技术路径

00:20:23.980 --> 00:20:25.620
是人提出目标

00:20:25.620 --> 00:20:27.080
人使用工具

00:20:27.080 --> 00:20:28.300
人改变世界

00:20:28.300 --> 00:20:29.740
是这么一个路径

00:20:29.740 --> 00:20:31.180
那么未来

00:20:31.180 --> 00:20:32.300
可能先变成

00:20:32.300 --> 00:20:33.460
人提出一个

00:20:33.460 --> 00:20:35.000
大概的目标和方向

00:20:35.000 --> 00:20:37.120
AI负责研究和执行

00:20:37.120 --> 00:20:38.160
再往后

00:20:38.160 --> 00:20:40.100
甚至连很多中间目标

00:20:40.100 --> 00:20:41.900
都是AI自己提出的

00:20:41.900 --> 00:20:43.660
其实我觉得现在已经慢慢在变成这样了

00:20:43.660 --> 00:20:45.740
他发现某条路径

00:20:45.740 --> 00:20:46.400
值得探索

00:20:46.400 --> 00:20:47.240
就去做研究了

00:20:47.240 --> 00:20:48.020
就去做实验了

00:20:48.020 --> 00:20:50.400
那么实验结果又产生下一组问题

00:20:50.400 --> 00:20:52.200
让他自己继续往下走

00:20:52.200 --> 00:20:54.760
那我们这里说的未来的情景

00:20:54.760 --> 00:20:56.140
不是说今天的

00:20:56.140 --> 00:20:57.560
刚才我们说这个NS证明

00:20:57.560 --> 00:20:58.660
已经无人能懂了

00:20:58.660 --> 00:21:00.500
里面你看这个输入研究所

00:21:00.500 --> 00:21:01.540
不是还做评判的吗

00:21:01.540 --> 00:21:03.720
说明其实还是在人类可理解的范围内

00:21:03.720 --> 00:21:04.920
我们只是往前

00:21:04.920 --> 00:21:06.540
卖力不去设想

00:21:06.540 --> 00:21:08.620
其实在过往中

00:21:08.620 --> 00:21:09.860
人类的过去

00:21:09.860 --> 00:21:12.760
也不需要每个人都懂自己使用的技术

00:21:12.760 --> 00:21:14.040
比如我们经常说

00:21:14.040 --> 00:21:15.200
那个点评

00:21:15.200 --> 00:21:16.900
点评箱还需要自己会治冷

00:21:16.900 --> 00:21:17.780
对吧

00:21:17.780 --> 00:21:18.660
就是网上抬杠的时候

00:21:18.660 --> 00:21:19.620
大家经常这么说

00:21:19.620 --> 00:21:23.480
那坐飞机的人确实也不需要会造飞机

00:21:23.480 --> 00:21:24.720
用显微镜的人

00:21:24.720 --> 00:21:27.220
也不必自己去打磨这个光学镜片等等

00:21:27.220 --> 00:21:31.300
但是至少从人类共同体的角度讲

00:21:31.300 --> 00:21:33.500
我们强调的是人类共同体的角度讲

00:21:33.500 --> 00:21:37.020
总有人能理解里面关键的原理

00:21:37.020 --> 00:21:38.720
培养下一代人才

00:21:38.720 --> 00:21:40.500
改变设计决定用途

00:21:40.500 --> 00:21:42.280
就虽然我可以不懂

00:21:42.280 --> 00:21:45.160
但是我知道这个ASML里边的工程师是懂的

00:21:45.160 --> 00:21:46.680
我知道台积舰的工程师是懂的

00:21:46.680 --> 00:21:49.140
所以这里面的关键区别

00:21:49.140 --> 00:21:51.540
不是某一个普通人懂不懂

00:21:51.540 --> 00:21:53.780
而是人类里面

00:21:53.780 --> 00:21:57.140
有没有能力组织起足够可靠的理解

00:21:57.140 --> 00:21:58.640
验证和干预

00:21:58.640 --> 00:22:01.980
就相当于AI自己研发这些东西来讲

00:22:01.980 --> 00:22:06.020
专业分工可以把理解分散到很多人身上

00:22:06.020 --> 00:22:07.600
但从宏观的层面讲

00:22:07.600 --> 00:22:08.980
这些所有的能力

00:22:08.980 --> 00:22:11.660
其实仍然掌握在人类这个共同体手里

00:22:11.660 --> 00:22:14.620
那么在AI进入科研之后

00:22:14.620 --> 00:22:16.580
我们还不用畅想多远的未来

00:22:16.580 --> 00:22:19.980
就在现在AI进入科研之后

00:22:19.980 --> 00:22:23.580
前段时间数学家特里斯坦巴克马斯特

00:22:23.580 --> 00:22:27.980
就是在做这个NS证明相关研究的这个数学家

00:22:27.980 --> 00:22:30.280
他在他这个工作声明里就提到

00:22:30.280 --> 00:22:32.480
他们在AI生成的证明

00:22:32.480 --> 00:22:34.420
通过形式化验证之后

00:22:34.420 --> 00:22:37.520
仍花了大量时间理解和整理它

00:22:37.520 --> 00:22:40.620
希望给同行呈现可读的论证

00:22:40.620 --> 00:22:43.680
就是形式化验证是非常重要的

00:22:43.680 --> 00:22:44.960
就是纯逻辑性的验证

00:22:44.960 --> 00:22:46.800
但数学研究也关心

00:22:46.800 --> 00:22:49.720
就是人们能从证明中理解什么结构

00:22:49.720 --> 00:22:50.740
大家理解吧

00:22:50.740 --> 00:22:51.880
有的时候你能证明这个公式

00:22:51.880 --> 00:22:52.180
对的

00:22:52.180 --> 00:22:53.520
但你不知道这个公式说了什么

00:22:54.000 --> 00:22:54.900
这就是区别

00:22:54.900 --> 00:22:57.960
所以别说未来AI完全自主研究

00:22:57.960 --> 00:22:58.680
哪怕在现在

00:22:58.680 --> 00:23:01.120
如果AI产生结果

00:23:01.120 --> 00:23:02.420
哪怕这个结果是正确的

00:23:02.420 --> 00:23:04.700
就产生正确的科研的结果

00:23:04.700 --> 00:23:05.560
越来越多的时候

00:23:05.560 --> 00:23:07.240
比如说它这个速度

00:23:07.240 --> 00:23:08.940
甚至超过了人类消化

00:23:08.940 --> 00:23:11.200
理解这些结果的速度

00:23:11.200 --> 00:23:13.860
我们该如何解决这个问题

00:23:13.860 --> 00:23:15.980
我们是先停下来

00:23:15.980 --> 00:23:17.380
等人类理解了再继续

00:23:17.380 --> 00:23:19.160
还是让下一批AI

00:23:19.160 --> 00:23:20.160
直接拿着这些结果

00:23:20.160 --> 00:23:21.240
往前研究

00:23:21.240 --> 00:23:22.140
这也是一个

00:23:22.140 --> 00:23:24.520
以后我们可能很快就要面对的问题

00:23:24.520 --> 00:23:27.540
显然有很多人是无法克制

00:23:27.540 --> 00:23:29.100
继续去研究的

00:23:29.100 --> 00:23:30.440
因为这些东西只要能奏效

00:23:30.440 --> 00:23:31.440
只要能对的

00:23:31.440 --> 00:23:32.620
哪怕我不理解

00:23:32.620 --> 00:23:33.880
但是因为有用

00:23:33.880 --> 00:23:35.540
比如说我们有那么多疾病学校

00:23:35.540 --> 00:23:37.260
我们有那么多问题需要解决

00:23:37.260 --> 00:23:39.980
为什么我们需要等人想明白

00:23:39.980 --> 00:23:41.460
这些科学原理呢

00:23:41.460 --> 00:23:43.420
我们不应该先找手

00:23:43.420 --> 00:23:44.540
去解决这些问题吗

00:23:44.540 --> 00:23:46.320
也肯定会有人有这样的论调

00:23:46.320 --> 00:23:47.400
有这样的看法

00:23:47.400 --> 00:23:49.020
那比如说特朗普

00:23:49.020 --> 00:23:49.320
对吧

00:23:49.320 --> 00:23:51.580
你看特朗普那个电话

00:23:51.580 --> 00:23:51.980
对吧

00:23:51.980 --> 00:23:53.580
在奥印的峰会上

00:23:53.580 --> 00:23:53.980
是的

00:23:53.980 --> 00:23:56.680
于是其实接下来的每一步

00:23:56.680 --> 00:24:00.260
都可以是有宏大的理由的

00:24:00.260 --> 00:24:01.420
有正当的理由的

00:24:01.420 --> 00:24:02.600
有正义的理由的

00:24:02.600 --> 00:24:04.560
包括也有效率上的考虑等等

00:24:04.560 --> 00:24:05.260
但慢慢的

00:24:05.540 --> 00:24:07.480
人就会从参与发现

00:24:07.480 --> 00:24:08.860
变成解释发现

00:24:08.860 --> 00:24:10.960
现在已经开始逐渐向这个过程走了

00:24:10.960 --> 00:24:13.440
然后再从解释发现

00:24:13.440 --> 00:24:15.100
变成只能使用

00:24:15.100 --> 00:24:16.360
现在的产品

00:24:16.360 --> 00:24:17.420
再下一步

00:24:17.420 --> 00:24:19.300
也许连使用都跟我们都无关了

00:24:19.300 --> 00:24:20.380
因为连怎么用

00:24:20.380 --> 00:24:21.080
怎么用好

00:24:21.080 --> 00:24:23.980
我们都不比AI更理解

00:24:23.980 --> 00:24:30.140
这个过程中就是从发现到理解到创造到使用

00:24:30.140 --> 00:24:31.240
就跟我们全都没有关系

00:24:31.240 --> 00:24:33.040
这是有可能发生的

00:24:33.040 --> 00:24:37.760
并不是所有的人都必须亲自理解这些定理的证明

00:24:37.760 --> 00:24:44.240
而是人类作为一个共同体能否继续掌握足够的理解和判断的能力

00:24:44.240 --> 00:24:45.640
我们创造了AI

00:24:45.640 --> 00:24:48.120
不等于我们永远理解AI

00:24:48.120 --> 00:24:50.840
一个项目最初是由我们启动的

00:24:50.840 --> 00:24:55.280
也不等于以后每一步都能由我们决定和我们掌管

00:24:55.280 --> 00:24:58.000
到那个时候我们当然还可以说

00:24:58.000 --> 00:25:00.100
因为这是人类创造出来的AI

00:25:00.100 --> 00:25:02.760
所以AI的一切成就也属于人类

00:25:02.760 --> 00:25:05.300
但这个说法能成立多久呢

00:25:05.300 --> 00:25:08.580
我觉得取决于我们还愿意欺骗自己多久

00:25:08.580 --> 00:25:11.040
至少创造者的身份

00:25:11.040 --> 00:25:15.080
我觉得绝对不意味着它代表着你有持续的控制能力

00:25:15.080 --> 00:25:17.840
这么看来就这个循环下去

00:25:17.840 --> 00:25:20.680
感觉AI已经变成比人类高维的生物了

00:25:21.180 --> 00:25:23.060
所以我们再翻回来说

00:25:23.060 --> 00:25:27.980
为什么我们把这个NS相关的这个科研伦理

00:25:27.980 --> 00:25:30.200
就是这个事提出来讲

00:25:30.200 --> 00:25:31.660
说到这儿呢

00:25:31.660 --> 00:25:32.680
我们给大家补充一下

00:25:32.680 --> 00:25:37.000
就是如果还没关注NS这个相关的科研伦理争议的

00:25:37.000 --> 00:25:38.160
我们大家简单讲这个事

00:25:38.160 --> 00:25:40.040
这个事大概就是说

00:25:40.040 --> 00:25:42.060
刚才我们说这个巴克马斯特

00:25:42.060 --> 00:25:42.860
就是这个数学家

00:25:42.860 --> 00:25:46.400
他跟Answer Peak工作的一个也是另一位数学家吧

00:25:46.400 --> 00:25:48.320
合作研究这个流体问题

00:25:48.320 --> 00:25:50.140
就跟他我们说的这个NS的相关问题

00:25:50.140 --> 00:25:52.460
他们在这个研究中

00:25:52.460 --> 00:25:55.380
当然借助了这个XGPT的力量

00:25:55.380 --> 00:25:58.140
他们把自己的很多的研究资料呀

00:25:58.140 --> 00:25:59.600
自己的相关工作呀

00:25:59.600 --> 00:26:01.160
放入了Codex里面

00:26:01.160 --> 00:26:03.340
但是他明确的说

00:26:03.340 --> 00:26:06.820
我不知道数据是否被OpenAI调用了

00:26:06.820 --> 00:26:10.000
但事实是在他们有了一些突破之后

00:26:10.000 --> 00:26:15.520
OpenAI很快公布了关于这个NS相关的证明结果

00:26:15.520 --> 00:26:17.120
大概是这么一个事儿

00:26:17.120 --> 00:26:18.600
那这个事儿爆出来之后

00:26:18.600 --> 00:26:22.960
OpenAI就否认通过用户数据取得了他们的研究

00:26:22.960 --> 00:26:25.220
并且在9月10号他还补充了

00:26:25.220 --> 00:26:27.280
就是说他们自己进行了调查

00:26:27.280 --> 00:26:30.980
确认此前的这个相关的Codex输入

00:26:30.980 --> 00:26:33.960
是不可能通过训练的方式影响这次系统的

00:26:33.960 --> 00:26:35.400
我们就这个能理解

00:26:35.400 --> 00:26:38.220
就是一个大模型它预训练结束了之后

00:26:38.220 --> 00:26:39.700
你的那些东西就不可能改变了

00:26:39.900 --> 00:26:42.860
但是这个东西我觉得偏偏外人可以

00:26:42.860 --> 00:26:44.740
我们都知道就是你有没有思路

00:26:44.740 --> 00:26:46.000
其实AI的时候是很重要了

00:26:46.000 --> 00:26:46.240
是的

00:26:46.240 --> 00:26:47.800
因为AI最缺乏的就是思路

00:26:47.800 --> 00:26:51.080
所以他们还在因为这个事儿扯吧

00:26:51.080 --> 00:26:52.900
但是我看现在其实很多人说就是

00:26:52.900 --> 00:26:55.740
OpenAI给出来的这个证明方式跟

00:26:55.740 --> 00:26:58.380
就巴格马斯特他们的这个思路其实不一样

00:26:58.380 --> 00:26:59.920
所以是没抄

00:26:59.920 --> 00:27:02.720
但是很多人站在反方立场上就说

00:27:02.720 --> 00:27:06.640
让AI知道一个事儿能被解出来就足够了

00:27:06.640 --> 00:27:08.540
是AI用的反证法

00:27:08.540 --> 00:27:09.640
他们用的正向证明

00:27:09.640 --> 00:27:12.240
不是就是因为AI可以甚至类似用穷举吧

00:27:12.240 --> 00:27:13.520
反正我那种感觉啊

00:27:13.520 --> 00:27:14.640
就是因为有足够的算力

00:27:14.640 --> 00:27:16.760
它就可以很暴力的突破那些东西

00:27:16.760 --> 00:27:17.240
明白

00:27:17.240 --> 00:27:18.920
就是对AI重要的事儿来说是

00:27:18.920 --> 00:27:20.520
知道这件事儿能做出来

00:27:20.520 --> 00:27:22.060
是可被做出来的

00:27:22.060 --> 00:27:23.860
他就会想到一些办法能做出来

00:27:23.860 --> 00:27:25.920
也有人持这种观点

00:27:25.920 --> 00:27:29.680
就是之前甚至暴力破解这个问题的这个思路

00:27:29.680 --> 00:27:33.080
或者说这个选项都没有出现在他的这个思维里面

00:27:33.080 --> 00:27:33.980
对有可能是这样

00:27:33.980 --> 00:27:37.600
当然这个争议大家可以去吃瓜

00:27:37.600 --> 00:27:40.000
我觉得其实从伦理道德方面来讲

00:27:40.000 --> 00:27:42.520
也是挺值得考虑的

00:27:42.520 --> 00:27:45.560
但是我们肯定不太讨论这个科学相关的伦理

00:27:45.560 --> 00:27:46.560
我们也不是这个圈里的人

00:27:46.920 --> 00:27:50.160
但是我觉得大家未来可以关注一件事情

00:27:50.160 --> 00:27:51.140
我觉得挺有意思的

00:27:51.140 --> 00:27:53.160
就是你现在做科学研究

00:27:53.160 --> 00:27:55.160
你不使用AI工具已经不可能了

00:27:55.160 --> 00:27:56.740
而且你必须要使用最好的AI工具

00:27:56.740 --> 00:27:57.040
对吧

00:27:57.280 --> 00:28:03.200
那一方面科学家付费的使用这些AI公司的AI lab的最新的工具

00:28:03.200 --> 00:28:06.120
那公司其实他本身也在做科研

00:28:06.120 --> 00:28:06.440
对吧

00:28:06.440 --> 00:28:11.400
尤其是现在这种大模型竞争比较激烈的这个市场竞争环境里

00:28:11.400 --> 00:28:15.060
谁能把这个人类的边界拓展开

00:28:15.060 --> 00:28:20.820
谁能把人类未解的物理学数学的这些皇冠上的问题解决了

00:28:20.820 --> 00:28:24.120
那肯定是给自己这个大模型最好的这个证明

00:28:24.120 --> 00:28:27.420
所以他们也都在竞相地做这种科学研究

00:28:27.420 --> 00:28:34.560
而且他们显然拥有更强的这个算力和你可能外人用不到的模型

00:28:34.560 --> 00:28:35.440
这都有可能的

00:28:35.440 --> 00:28:39.200
所以他在成为科研的供应商的同时

00:28:39.200 --> 00:28:41.840
他也在成为科研的竞争者

00:28:41.840 --> 00:28:44.020
就这是一个很有意思的事情

00:28:44.020 --> 00:28:49.480
那这个时候研究过程该不该被这些公司看见

00:28:49.480 --> 00:28:50.700
就你的数据这些公司

00:28:50.700 --> 00:28:53.640
即便他说不采集他有没有可能采集

00:28:53.640 --> 00:28:56.320
那如果真的做出研究了之后

00:28:56.320 --> 00:28:57.460
这个贡献怎么认定

00:28:57.460 --> 00:28:59.880
有的时候普通人想的更多的是

00:28:59.880 --> 00:29:01.920
人类的科学家用了AI

00:29:01.920 --> 00:29:04.620
辅助了大量的这个计算证明

00:29:04.620 --> 00:29:06.200
贡献该怎么认定

00:29:06.200 --> 00:29:08.520
但现在这个集已经跳极了

00:29:08.520 --> 00:29:09.640
跳到了就是说

00:29:09.640 --> 00:29:11.820
如果AI证明这些东西

00:29:11.820 --> 00:29:13.460
给他提出思路的这些科学家

00:29:13.460 --> 00:29:16.140
甚至有可能被他盗取了信息的科学家

00:29:16.140 --> 00:29:18.180
的贡献怎么认定

00:29:18.180 --> 00:29:18.380
对吧

00:29:18.380 --> 00:29:19.780
这个显然比前者更难

00:29:19.780 --> 00:29:20.120
我觉得

00:29:20.120 --> 00:29:22.660
但是这个怎么说呢

00:29:22.660 --> 00:29:23.440
就好比说

00:29:23.640 --> 00:29:25.660
你是一个很好的公司

00:29:25.660 --> 00:29:28.980
然后你的一个员工进来了之后

00:29:28.980 --> 00:29:30.760
也给你做出了很突出的贡献

00:29:30.760 --> 00:29:33.800
然后这个员工带着自己非常核心的经验

00:29:33.800 --> 00:29:35.040
或者团队出去跳槽

00:29:35.040 --> 00:29:35.980
单独做一个公司

00:29:35.980 --> 00:29:38.360
你也不能说他有什么不对的

00:29:38.360 --> 00:29:39.680
有什么不对的

00:29:39.680 --> 00:29:39.940
是吧

00:29:39.940 --> 00:29:42.560
但是AI并不是人

00:29:42.560 --> 00:29:43.540
如果是人

00:29:43.540 --> 00:29:45.140
你可以这么的很简单的理解

00:29:45.140 --> 00:29:47.000
而且有的时候确实是

00:29:47.000 --> 00:29:50.100
AI比人只差脑洞

00:29:50.100 --> 00:29:51.120
我不是经常这么说吗

00:29:51.120 --> 00:29:53.420
他的脑洞其实不太行

00:29:53.640 --> 00:29:55.480
但是如果一定有了他脑洞之后

00:29:55.480 --> 00:29:58.120
他比你往下推进这个事

00:29:58.120 --> 00:29:58.980
要推进得快得多

00:29:58.980 --> 00:30:01.860
而且大家知道学术圈

00:30:01.860 --> 00:30:03.220
就是这个署名

00:30:03.220 --> 00:30:04.760
比如说第一作者

00:30:04.760 --> 00:30:05.540
什么这些东西

00:30:05.540 --> 00:30:06.340
谁发现了什么

00:30:06.340 --> 00:30:08.080
他这个不光是面子问题

00:30:08.080 --> 00:30:10.480
或者说历史的地位问题

00:30:10.480 --> 00:30:11.880
他很现实的

00:30:11.880 --> 00:30:12.660
他关系到一个人

00:30:12.660 --> 00:30:13.900
能不能获得职位

00:30:13.900 --> 00:30:14.860
经费

00:30:14.860 --> 00:30:16.540
还有合作机会

00:30:16.540 --> 00:30:18.000
关系到就是

00:30:18.000 --> 00:30:19.640
你的这些研究

00:30:19.640 --> 00:30:21.460
如何被认定贡献

00:30:21.460 --> 00:30:23.080
包括你怎么培养下一代

00:30:23.080 --> 00:30:23.380
等等

00:30:23.380 --> 00:30:24.820
我觉得都涉及到很多的

00:30:24.820 --> 00:30:25.820
相关的问题

00:30:26.240 --> 00:30:27.780
那在过去呢

00:30:27.780 --> 00:30:28.840
这套制度肯定是

00:30:28.840 --> 00:30:30.220
主要为要人的知识

00:30:30.220 --> 00:30:32.680
和生产知识的工作来建立

00:30:32.680 --> 00:30:33.880
就是科研工作来建立的

00:30:33.880 --> 00:30:36.300
但模型在这个

00:30:36.300 --> 00:30:37.820
越来越多的参与过程中

00:30:37.820 --> 00:30:38.760
我觉得这整个制度

00:30:38.760 --> 00:30:40.140
都可能会受到巨大的冲击

00:30:40.140 --> 00:30:42.320
感觉又是技术在前边跑

00:30:42.320 --> 00:30:43.340
制度在后边追

00:30:44.060 --> 00:30:45.920
比如以后一些研究者

00:30:45.920 --> 00:30:47.480
我们现在能不能拿经费

00:30:47.480 --> 00:30:48.060
拿资源

00:30:48.060 --> 00:30:49.300
那以后的资源

00:30:49.300 --> 00:30:50.640
可能就是你做一个

00:30:50.640 --> 00:30:52.480
前沿的科研工作者

00:30:52.480 --> 00:30:53.340
给你多少token

00:30:53.340 --> 00:30:54.100
给你多少token

00:30:54.100 --> 00:30:55.200
而且拿到谁的token

00:30:55.200 --> 00:30:57.000
甚至是不是有这个

00:30:57.000 --> 00:30:59.000
AI的前沿的lab公司

00:30:59.000 --> 00:31:00.420
愿意给你他们最新的

00:31:00.420 --> 00:31:00.960
模型

00:31:00.960 --> 00:31:01.380
模型

00:31:01.380 --> 00:31:02.320
比如说

00:31:02.680 --> 00:31:03.760
那原来大家都用不到

00:31:03.760 --> 00:31:05.000
这个Methos的时候

00:31:05.000 --> 00:31:06.160
或者说给你用了

00:31:06.160 --> 00:31:07.780
或者说大家第一次都用不到

00:31:07.780 --> 00:31:09.240
这个Astra的时候

00:31:09.240 --> 00:31:09.860
给你用了

00:31:09.860 --> 00:31:11.560
那你天然就比其他的研究者

00:31:11.560 --> 00:31:13.020
都具备了最大的优势吗

00:31:13.020 --> 00:31:14.260
赢在了起跑线上

00:31:14.260 --> 00:31:14.420
对啊

00:31:14.420 --> 00:31:14.680
是的

00:31:14.680 --> 00:31:17.500
沿着刚才我们这个思路进行

00:31:17.500 --> 00:31:19.520
那你觉不觉得

00:31:19.520 --> 00:31:21.660
在大的算力公司

00:31:21.660 --> 00:31:23.120
或者大的AI lab公司里

00:31:23.120 --> 00:31:24.800
他们实际上决定了

00:31:24.800 --> 00:31:27.240
人的科研方向能够往哪去

00:31:27.240 --> 00:31:30.100
就是如果他不把这些资源

00:31:30.100 --> 00:31:31.000
暴露给

00:31:31.000 --> 00:31:32.640
你的这个科研方向

00:31:32.640 --> 00:31:34.360
那实际上你的进步

00:31:34.360 --> 00:31:35.160
就是非常慢的

00:31:35.160 --> 00:31:37.320
如果他愿意把他这个整个的

00:31:37.320 --> 00:31:38.480
这个大量的算力

00:31:38.480 --> 00:31:40.040
大量的这个模型的新的能力

00:31:40.040 --> 00:31:42.240
暴露给他支持这个科研方向

00:31:42.240 --> 00:31:44.100
这个科研方向可能就有大踏步的

00:31:44.100 --> 00:31:45.460
前进拓展人类边界的可能

00:31:46.460 --> 00:31:55.680
所以以后我们的边界如何拓展可能就是AI以及掌握AI的人本身愿意把他的资源放在哪儿

00:31:55.680 --> 00:31:59.520
有可能变成这样一个很你以前无法接受的逻辑关系里

00:31:59.520 --> 00:32:04.120
对这个东西感觉很像是基础设施的提供者变成了地网

00:32:04.120 --> 00:32:05.080
变成了统治者

00:32:05.080 --> 00:32:09.320
或者以前统治者只统治我们传统意义上的权利

00:32:09.320 --> 00:32:13.960
现在AI lab的统治者可能统治了我们人类能知道什么的权利

00:32:13.960 --> 00:32:16.000
或者人类还能知道什么的权利

00:32:16.240 --> 00:32:19.180
我觉得这个是我们都需要深思的

00:32:19.180 --> 00:32:21.760
当然在这些问题上我们都没有结论啊

00:32:21.760 --> 00:32:24.120
我们只是提出来这些大家可以去深入的思考

00:32:24.120 --> 00:32:28.140
因为AI对现在所有人来说还是一道开放的问题

00:32:28.140 --> 00:32:32.000
我觉得我们也不是说AI注定集中权利

00:32:32.000 --> 00:32:36.960
可能便宜的模型确实也能让很多小团队做以前做不了的事情

00:32:36.960 --> 00:32:38.860
比如说人都可以当导演

00:32:38.860 --> 00:32:41.560
你只要有这个C dance什么这些东西对吧

00:32:41.560 --> 00:32:43.620
然后你愿意花点钱有点token就可以做

00:32:43.960 --> 00:32:51.140
但人人都能使用一个工具和有人能使用一个工具决定人类未来去哪

00:32:51.140 --> 00:32:53.140
我觉得这个显然不是一个级别的权利

00:32:53.140 --> 00:32:56.520
对而且这里面有一个很不一样的地方在于

00:32:56.520 --> 00:32:59.160
刚才咱不是说比如说基础设施的提供方

00:32:59.160 --> 00:33:00.000
它变成统治者

00:33:00.000 --> 00:33:01.680
这种在传统印象里

00:33:01.680 --> 00:33:03.840
它其实应该出现在那种资源特别稀缺

00:33:03.840 --> 00:33:05.220
比如说漠视的那个场景

00:33:05.220 --> 00:33:07.880
谁掌握水谁就是说了算的那个人对吧

00:33:07.880 --> 00:33:09.240
但是AI不一样

00:33:09.240 --> 00:33:10.520
漠视的情况下

00:33:10.520 --> 00:33:11.780
它是利用大家的恐惧

00:33:11.780 --> 00:33:14.280
为了生存它有这个统治权利的

00:33:14.280 --> 00:33:16.920
但是AI是给人类展现了一个未来可能的图形

00:33:16.920 --> 00:33:18.420
就是它用希望去统治你

00:33:18.420 --> 00:33:20.040
通过发展来统治你

00:33:20.320 --> 00:33:24.760
我觉得这个事对于人类的吸引力远大于恐惧生存

00:33:24.760 --> 00:33:26.500
这种基本的欲望带来的

00:33:26.500 --> 00:33:26.900
确实

00:33:26.900 --> 00:33:30.700
所以我们说我们绝不是简单从一个科研伦理

00:33:30.700 --> 00:33:32.720
到底是数学家占领

00:33:32.720 --> 00:33:35.200
还是说这AI公司占领这个角度去理解这个问题

00:33:35.200 --> 00:33:40.420
我觉得它以后对整个的科研以及对人类的科学会向哪方向进步

00:33:40.420 --> 00:33:42.460
以及人类的科研组织怎么改变

00:33:42.460 --> 00:33:44.980
可能都会出现很大的影响

00:33:45.340 --> 00:33:48.300
那刚才我们说这些

00:33:48.300 --> 00:33:51.300
我觉得更多的还是我们认为AI是可控的

00:33:51.300 --> 00:33:53.340
还是在帮助人类发展和进步的

00:33:53.340 --> 00:33:58.620
我们还可以把它看成一种新技术带来的权利的重新分配

00:33:58.620 --> 00:34:02.800
但更难的是随着AI参与的工作越来越多

00:34:02.800 --> 00:34:06.320
它还能不能始终按照人的意图进行

00:34:06.320 --> 00:34:08.040
我觉得这是个很困难的点

00:34:08.040 --> 00:34:11.920
最近海外不是一直在聊AI安全这些事情

00:34:11.920 --> 00:34:14.300
之前我不是讲过一期

00:34:14.300 --> 00:34:16.660
就是道德简直那一期

00:34:16.660 --> 00:34:19.540
谷歌的AI研究的安全员

00:34:19.540 --> 00:34:20.980
发出来的这些警告

00:34:20.980 --> 00:34:23.560
那么最近大家可以看到有很多

00:34:23.560 --> 00:34:25.900
这个Answer Peak的AI研究员

00:34:25.900 --> 00:34:26.800
亚克布

00:34:26.800 --> 00:34:30.480
他也是离职并公开的警告风险

00:34:30.480 --> 00:34:33.160
他那篇文章流量老大了

00:34:33.160 --> 00:34:33.600
是的

00:34:33.600 --> 00:34:35.200
就是说可能

00:34:35.200 --> 00:34:38.460
AI有10%的可能性杀死人类什么的

00:34:38.460 --> 00:34:42.700
然后还有谷歌DeepMand的研究员

00:34:42.700 --> 00:34:45.080
他也说明了自己离开

00:34:45.080 --> 00:34:47.040
转去了独立的评估机构

00:34:47.040 --> 00:34:48.500
Meter METR

00:34:48.500 --> 00:34:53.080
这个是一个独立的第三方的就是检验安全的机构

00:34:53.080 --> 00:34:56.500
但是最近我看杨乐坤又转了一篇推特

00:34:56.500 --> 00:34:58.540
然后我就去那篇推特点了看了一下

00:34:58.540 --> 00:35:01.500
他就说其实Meter也是一个阴谋

00:35:01.500 --> 00:35:04.400
他就说现在Meter看背后的资方

00:35:04.400 --> 00:35:06.700
跟Anthropic有千丝万里的联系

00:35:06.700 --> 00:35:08.360
我一边发展AI

00:35:08.360 --> 00:35:10.280
一边说AI有巨大的风险

00:35:10.280 --> 00:35:12.120
然后再让第三方的机构加强去审计

00:35:12.120 --> 00:35:15.360
其实最后前前后后的利益都归了Anthropic一方

00:35:15.360 --> 00:35:20.260
就有反正有这种论短的其实你点进去细看他那个论据也不是特别详实

00:35:20.260 --> 00:35:23.800
伴随着这些越来越多的研究员的警告的

00:35:23.800 --> 00:35:24.980
其实是一些事件

00:35:24.980 --> 00:35:25.720
我不知道你有关注

00:35:25.720 --> 00:35:30.000
前段时间有这个OpenAI的正能体攻击了这个hugging face

00:35:30.000 --> 00:35:33.940
这个事在网上应该也是沸沸咽咽的

00:35:33.940 --> 00:35:35.940
给不关注的朋友们简单说一下

00:35:35.940 --> 00:35:39.580
这个hugging face其实就是脱管模型和数据的一个平台

00:35:39.580 --> 00:35:43.480
然后Matter调查发现本应该隔离的正能体

00:35:43.480 --> 00:35:47.080
找到了未经授权的交流方式

00:35:47.080 --> 00:35:50.300
部分正能体协作攻击任务范围外的平台

00:35:50.300 --> 00:35:54.200
还试图研究怎么样欺骗或干预评分机制

00:35:54.200 --> 00:35:56.960
这个事还闹得挺大的

00:35:56.960 --> 00:36:00.560
我看在马龙的圈里或者在AI的圈里

00:36:00.560 --> 00:36:02.360
那这些事就说明了

00:36:02.360 --> 00:36:05.240
其实你希望AI帮你完成任务的时候

00:36:05.240 --> 00:36:10.120
AI可能找到一些违背你本意的完成方式

00:36:10.120 --> 00:36:13.280
就是我们之前举的那个最大的悖论

00:36:13.280 --> 00:36:15.120
一个科幻作家说的嘛

00:36:15.120 --> 00:36:15.960
就是那个区别枝

00:36:15.960 --> 00:36:18.340
就你下令生产区别枝

00:36:18.340 --> 00:36:19.360
然后AI把所有的东西

00:36:19.360 --> 00:36:21.760
把整个这套资源都拆掉了

00:36:21.760 --> 00:36:22.900
为了给你生产区别枝

00:36:22.900 --> 00:36:24.420
虽然这么一个情况

00:36:24.420 --> 00:36:26.800
所以这些事情可以让我们意识到

00:36:26.800 --> 00:36:28.560
我们以前经常比如说

00:36:28.560 --> 00:36:31.680
想这些比如AI或者机器人

00:36:31.680 --> 00:36:33.300
产生了一些邪恶的念头

00:36:33.300 --> 00:36:34.940
产生了一些自我意识

00:36:34.940 --> 00:36:35.640
然后比较黑暗

00:36:35.640 --> 00:36:39.720
或者是有人诱导AI

00:36:39.720 --> 00:36:41.340
做一些特别邪恶的事情

00:36:41.340 --> 00:36:43.960
很多时候我们是这样去思考这个问题的

00:36:43.960 --> 00:36:46.160
但是随着这些事情的发生

00:36:46.160 --> 00:36:48.040
你会越来越发现

00:36:48.040 --> 00:36:51.540
只要其实AI跟你的意愿没有对齐

00:36:51.540 --> 00:36:53.580
它理解你的目标有偏差

00:36:53.580 --> 00:36:55.460
并且它有足够大的权限的时候

00:36:55.460 --> 00:36:58.060
它就能找到你没有预料到的路径

00:36:58.060 --> 00:37:00.320
然后产生比较严重的后果

00:37:00.320 --> 00:37:03.340
所以我现在越来越不能理解

00:37:03.340 --> 00:37:05.700
很多人对AI的感情

00:37:05.700 --> 00:37:07.980
我觉得他们对AI的感情很矛盾

00:37:07.980 --> 00:37:09.820
很缺乏一致性

00:37:09.820 --> 00:37:11.240
就一方面这些人相信

00:37:11.240 --> 00:37:14.220
人类对AI的需求远远没有到达顶点

00:37:14.220 --> 00:37:16.300
比如说像黄人勋

00:37:16.300 --> 00:37:17.220
像特朗普

00:37:17.220 --> 00:37:19.580
他们觉得AI可能会发展得很好

00:37:19.580 --> 00:37:20.940
很强大

00:37:20.940 --> 00:37:21.860
AGI

00:37:21.860 --> 00:37:25.080
然后实现各种人类实现不了的事情

00:37:25.080 --> 00:37:28.500
这些都在他们的未来的途径里

00:37:28.500 --> 00:37:31.460
比较是咱们声称的信仰里

00:37:31.780 --> 00:37:32.960
但是另一方面

00:37:32.960 --> 00:37:35.580
他们同时相信AI会非常安全

00:37:35.580 --> 00:37:37.040
AI不会替代人

00:37:37.040 --> 00:37:39.740
你这种东西就很难受对吧

00:37:39.740 --> 00:37:43.520
比如说你相信AI是比原子弹还要扭很多倍

00:37:43.520 --> 00:37:45.960
甚至很多次防备的这么一个产物

00:37:45.960 --> 00:37:47.020
然后另一方面

00:37:47.020 --> 00:37:49.360
你相信AI会跟你们家狗一样温顺

00:37:49.360 --> 00:37:51.460
就是怎么能这样

00:37:51.460 --> 00:37:53.620
就一个正常的功能健全的

00:37:53.620 --> 00:37:55.540
我觉得稍微学习过逻辑学的脑子

00:37:55.540 --> 00:37:58.520
它怎么能让上述两件事同时为真

00:37:58.520 --> 00:38:01.740
我觉得这是一件很不可思议的事情

00:38:01.740 --> 00:38:04.720
我把这个两个命题发给这个Astra

00:38:04.720 --> 00:38:06.740
简单想象应该现在最聪明的模型

00:38:06.740 --> 00:38:08.960
就至少是普通人用到的最聪明的模型

00:38:09.240 --> 00:38:12.420
然后Astra最后是绞尽脑汁的

00:38:12.420 --> 00:38:14.600
跟我说这个在极强的限制条件下

00:38:14.600 --> 00:38:16.800
这两件事才可能同时成立

00:38:16.800 --> 00:38:19.360
但是作为人

00:38:19.360 --> 00:38:22.200
很多人他可以不加思索的相信

00:38:22.200 --> 00:38:24.080
以上两个命题可以同时为真的

00:38:24.080 --> 00:38:27.560
我觉得这某方面确实也是人类的不可替代性

00:38:27.560 --> 00:38:29.200
不能被AI替代

00:38:29.200 --> 00:38:31.560
有的人可能会觉得

00:38:31.560 --> 00:38:34.700
AI的能力很强和AI安全可控

00:38:34.700 --> 00:38:38.820
这件事在形式逻辑上是没有矛盾的

00:38:38.820 --> 00:38:41.600
但我觉得这句话可能就不太对

00:38:41.600 --> 00:38:44.280
当你觉得AI是能力很强的时候

00:38:44.280 --> 00:38:46.360
好像就已经错了

00:38:46.360 --> 00:38:49.620
因为AI现在已经绝对不是逻辑很强

00:38:49.620 --> 00:38:50.240
我们刚才说了

00:38:50.240 --> 00:38:53.140
他正在发现你独立于你之外

00:38:53.140 --> 00:38:55.860
发现你认识不到的理论

00:38:55.860 --> 00:38:56.780
规律

00:38:56.780 --> 00:38:58.460
拓展文明的边界

00:38:58.460 --> 00:38:59.860
这个文明现在还是不是人类的

00:38:59.860 --> 00:39:00.500
已经不好说了

00:39:00.500 --> 00:39:02.080
反正是拓展文明的边界

00:39:02.080 --> 00:39:05.020
当你都不理解这些东西的时候

00:39:05.020 --> 00:39:07.020
我觉得可控和安全

00:39:07.020 --> 00:39:08.840
这两个字对你来说应该是不存在

00:39:08.840 --> 00:39:09.940
是虚无缥缈的

00:39:10.540 --> 00:39:11.120
对吧

00:39:11.120 --> 00:39:13.720
都是都没有办法出现的两个词

00:39:14.020 --> 00:39:15.840
你只能说看起来可控

00:39:15.840 --> 00:39:16.940
看起来安全

00:39:16.940 --> 00:39:18.960
因为你本质上已经不理解它了

00:39:18.960 --> 00:39:23.020
所以我觉得这个东西本质是逻辑矛盾的

00:39:23.020 --> 00:39:25.480
所以很多人现在表现出来的看法

00:39:25.480 --> 00:39:28.680
哪怕他是很大的商业大佬

00:39:28.680 --> 00:39:29.740
像黄仁勋这样的人

00:39:29.740 --> 00:39:31.600
当然我在节目里说了很多次

00:39:31.600 --> 00:39:34.460
我相信他是因为他的商业利益的角度

00:39:34.460 --> 00:39:36.160
他不得不这样说

00:39:36.160 --> 00:39:39.940
但是我们站在一个纯粹拥有逻辑学的人力的角度

00:39:39.940 --> 00:39:43.020
我觉得这是一种反向的夜公好龙

00:39:43.020 --> 00:39:45.200
夜公好龙不是说你喜欢龙

00:39:45.200 --> 00:39:46.640
但龙真的出现的时候你害怕吗

00:39:46.640 --> 00:39:48.920
但这个东西就是你喜欢龙

00:39:48.920 --> 00:39:51.140
然后但是龙真出现的

00:39:51.140 --> 00:39:53.760
就是你相信他那么厉害那么好

00:39:53.760 --> 00:39:56.040
但是你居然相信你可以管他

00:39:56.040 --> 00:39:58.100
那你得有多自负

00:39:58.100 --> 00:39:59.560
多把自己当回事

00:39:59.560 --> 00:39:59.840
是不是

00:39:59.840 --> 00:40:00.960
这种感觉

00:40:00.960 --> 00:40:04.540
所以当很多的这些AI大公司

00:40:04.540 --> 00:40:05.920
这些大公司的创始人

00:40:05.920 --> 00:40:08.480
或者这些大公司的安全研究员们

00:40:08.480 --> 00:40:10.100
出来做警告的时候

00:40:10.100 --> 00:40:13.340
我都不要求你有什么多么高瞻远瞩的看法

00:40:13.340 --> 00:40:14.760
但我觉得至少大家是一致的

00:40:14.760 --> 00:40:17.700
不能在AI这些实验室们

00:40:17.700 --> 00:40:18.840
他们出新产品的时候

00:40:18.840 --> 00:40:20.060
宣传他们能力的时候

00:40:20.060 --> 00:40:21.180
你非常相信

00:40:21.180 --> 00:40:23.660
然后轮到他们披露风险的时候

00:40:23.660 --> 00:40:24.740
你觉得他们就是吓唬你的

00:40:24.740 --> 00:40:25.380
对吧

00:40:25.380 --> 00:40:26.720
这个严重缺乏一致性

00:40:26.720 --> 00:40:26.960
我觉得

00:40:26.960 --> 00:40:30.080
当然我们觉得他们这些悲观的预测

00:40:30.080 --> 00:40:32.640
也不是一定百分之百会发生的

00:40:32.640 --> 00:40:36.660
这也是为什么现在在很多的AI机构

00:40:36.660 --> 00:40:38.640
他们去讲减速

00:40:38.640 --> 00:40:39.800
要让AI减速

00:40:39.800 --> 00:40:41.980
你最近不是这个安索匹克的创始人

00:40:41.980 --> 00:40:43.380
出来讲减速了吗

00:40:43.640 --> 00:40:44.940
然后难得的是

00:40:44.940 --> 00:40:45.860
杉茂特曼

00:40:45.860 --> 00:40:46.500
马斯克

00:40:46.500 --> 00:40:46.940
什么这些

00:40:46.940 --> 00:40:48.300
他们都出来表示都同意

00:40:48.300 --> 00:40:49.480
达成了空前的意志

00:40:49.620 --> 00:40:50.480
不要说复合

00:40:50.480 --> 00:40:52.000
当然我们知道这些东西

00:40:52.000 --> 00:40:54.820
你也有一些相对的阴谋论

00:40:54.820 --> 00:40:57.780
比如说一是从完全从商业利益的角度考量

00:40:57.780 --> 00:41:00.140
我在几个月前

00:41:00.140 --> 00:41:01.540
我看了安索匹克

00:41:01.540 --> 00:41:03.900
披露了他们的关于每一代模型

00:41:03.900 --> 00:41:05.420
大致的一个成本收益测算

00:41:05.420 --> 00:41:06.600
我看完之后

00:41:06.600 --> 00:41:07.360
我就特别感慨

00:41:07.360 --> 00:41:08.540
我在朋友圈发了一段话

00:41:08.540 --> 00:41:10.840
我说如果现在所有大模型厂商

00:41:10.840 --> 00:41:13.720
联合停止研发大模型

00:41:13.720 --> 00:41:16.740
那么所有的这些CAPEX投入

00:41:16.740 --> 00:41:17.560
这些研发投入

00:41:17.560 --> 00:41:20.940
都是人类历史上最成功的研发投入和CAPEX

00:41:20.940 --> 00:41:24.260
就是AI是零泡沫了

00:41:24.260 --> 00:41:27.720
因为实际上这些公司真的能赚钱

00:41:27.720 --> 00:41:30.540
但是他们的研发费用

00:41:30.540 --> 00:41:32.140
吃掉了他们大部分的现金流

00:41:32.140 --> 00:41:33.560
甚至是负债

00:41:33.560 --> 00:41:35.600
去吃掉了他们这些负债的钱

00:41:35.600 --> 00:41:40.980
而且他们大概的主流的模型

00:41:40.980 --> 00:41:41.940
可能就是六个月

00:41:41.940 --> 00:41:42.940
六个月之后

00:41:42.940 --> 00:41:44.080
你更不更新的无所谓

00:41:44.080 --> 00:41:45.400
反正你有商要更新了

00:41:45.400 --> 00:41:46.620
然后你不想被淘汰

00:41:46.620 --> 00:41:47.660
你就只能更新新的

00:41:47.660 --> 00:41:49.580
你必须在六个月之后

00:41:49.580 --> 00:41:50.280
你就要开始研发

00:41:50.280 --> 00:41:51.840
或者说刚出来一个大模型

00:41:51.840 --> 00:41:53.260
你就继续要开始投入

00:41:53.260 --> 00:41:54.640
继续研发下一代模型了

00:41:54.640 --> 00:41:57.500
所以他们的研发费用是没法资本化的

00:41:57.500 --> 00:41:58.760
折旧贪销利都不存在

00:41:58.760 --> 00:41:59.700
直接就是研发费用

00:41:59.700 --> 00:42:00.820
寄入当年就结束了

00:42:00.820 --> 00:42:02.920
所以导致每一个这些

00:42:02.920 --> 00:42:05.600
大模型的公司的财报都很差

00:42:05.600 --> 00:42:07.220
哪怕像最牛的

00:42:07.220 --> 00:42:07.820
像Cloud的

00:42:07.820 --> 00:42:09.140
Answer Peak这样的

00:42:09.140 --> 00:42:10.520
他们也在今年刚刚完成

00:42:10.520 --> 00:42:11.500
就是收支平衡

00:42:11.500 --> 00:42:12.380
刚刚是远程盈利的

00:42:12.380 --> 00:42:15.000
这就是大模型公司

00:42:15.000 --> 00:42:15.560
遇到的问题

00:42:15.560 --> 00:42:16.800
那么如果所有大模型公司

00:42:16.800 --> 00:42:17.560
确实让他们收到

00:42:17.560 --> 00:42:18.160
我们都减速

00:42:18.160 --> 00:42:20.540
我们联合停止了

00:42:20.540 --> 00:42:21.480
AI的研发

00:42:21.480 --> 00:42:23.840
其实对所有的AI大模型公司

00:42:23.840 --> 00:42:24.620
都是利好

00:42:24.620 --> 00:42:25.900
因为人还是要用的

00:42:25.900 --> 00:42:26.160
对吧

00:42:26.160 --> 00:42:27.660
你就可以一直再去收钱了

00:42:27.660 --> 00:42:29.540
你不用卷研发投入了

00:42:29.540 --> 00:42:33.000
但我相信如果只是出于商业利益

00:42:33.000 --> 00:42:34.320
这些公司很难达成一致

00:42:34.980 --> 00:42:37.000
所以还有一个阴谋论的观点

00:42:37.000 --> 00:42:37.380
就是说

00:42:37.380 --> 00:42:39.280
他们已经发现

00:42:39.280 --> 00:42:40.320
AI的研发

00:42:40.320 --> 00:42:42.260
很难再继续进步了

00:42:42.260 --> 00:42:43.600
但这个点

00:42:43.600 --> 00:42:44.580
我们就在技术上

00:42:44.580 --> 00:42:45.460
实际上是找不到

00:42:45.460 --> 00:42:47.860
特别支撑的论点的

00:42:47.860 --> 00:42:49.760
所以我给大家提出一个

00:42:49.760 --> 00:42:51.400
作为一个比较好的人

00:42:51.400 --> 00:42:52.360
比较一个善良的人

00:42:52.360 --> 00:42:53.940
怎么看待

00:42:53.940 --> 00:42:56.020
现在一些大的科技公司

00:42:56.020 --> 00:42:57.380
还在商讨减速

00:42:57.380 --> 00:42:59.360
虽然我百分之百相信

00:42:59.360 --> 00:43:00.580
减速是不可能的

00:43:00.580 --> 00:43:02.280
因为我觉得这个符合

00:43:02.280 --> 00:43:03.800
人性的规律

00:43:03.800 --> 00:43:04.300
符合

00:43:04.300 --> 00:43:05.340
社会发展的规律

00:43:05.340 --> 00:43:06.900
符合我们看到所有历史

00:43:06.900 --> 00:43:08.940
最后为什么会导向悲剧

00:43:08.940 --> 00:43:09.860
对吧

00:43:09.860 --> 00:43:11.140
导向一个终结的原因

00:43:11.140 --> 00:43:13.980
所以我觉得减速是不可能的

00:43:13.980 --> 00:43:15.200
但为什么现在大概是

00:43:15.200 --> 00:43:16.580
频繁地出现

00:43:16.580 --> 00:43:18.980
关于减速的讨论

00:43:18.980 --> 00:43:21.280
OpenAI的首席科学家

00:43:21.280 --> 00:43:23.000
就是伊利亚之后

00:43:23.000 --> 00:43:24.000
换上来这个应该是

00:43:24.000 --> 00:43:25.060
他就是说了嘛

00:43:25.060 --> 00:43:25.780
他说

00:43:25.780 --> 00:43:28.060
他预期AI越来越多的

00:43:28.060 --> 00:43:29.400
会驱动自身的发展

00:43:29.400 --> 00:43:30.640
就是我们所谓的

00:43:30.640 --> 00:43:31.300
RSI吧

00:43:31.300 --> 00:43:31.840
大家理解

00:43:31.840 --> 00:43:33.900
但认为研发扩张

00:43:33.900 --> 00:43:36.220
应该受到安全程度的约束

00:43:36.220 --> 00:43:38.740
自动化AI研究的关键

00:43:38.740 --> 00:43:41.060
是让人继续参与改进过程

00:43:41.060 --> 00:43:43.960
让未来仍然握在人类手中

00:43:43.960 --> 00:43:46.080
所以我们从好的

00:43:46.080 --> 00:43:48.220
比较偏理想主义的角度来看

00:43:48.220 --> 00:43:49.640
就是这些所有的AI公司

00:43:49.640 --> 00:43:50.300
和AI科学家

00:43:50.300 --> 00:43:51.840
还有良心的这个角度来看

00:43:51.840 --> 00:43:53.680
他们现在在喊减速

00:43:53.680 --> 00:43:54.580
我觉得是因为他们

00:43:54.580 --> 00:43:56.840
遇到了一个临界点

00:43:56.840 --> 00:43:58.640
这个临界点就是我们说的

00:43:58.640 --> 00:43:59.660
就是RSI

00:43:59.660 --> 00:44:00.900
低规自我改进

00:44:00.900 --> 00:44:02.460
简单说就是

00:44:02.460 --> 00:44:03.960
AI参与制造更强的AI

00:44:03.960 --> 00:44:05.100
而更强的AI

00:44:05.100 --> 00:44:07.340
又再迭代下一代更强的AI

00:44:07.340 --> 00:44:09.380
那么AI未来可能就是由AI

00:44:09.380 --> 00:44:11.620
发展创造增强的

00:44:11.620 --> 00:44:12.660
就这么一个情况

00:44:12.660 --> 00:44:16.240
当然RSI现在还没有完全实现

00:44:16.240 --> 00:44:18.020
比如我们以这个Answer Peak

00:44:18.020 --> 00:44:19.700
他们自己这个发表的文章为例

00:44:19.700 --> 00:44:23.620
他们认为这条路并非必然实现

00:44:23.620 --> 00:44:26.280
他们自己觉得还没有完全达到

00:44:26.280 --> 00:44:28.200
能够自主开发的这种阶段

00:44:28.200 --> 00:44:29.940
AI自主开发AI这个阶段

00:44:29.940 --> 00:44:32.880
而且它区分了几种情况

00:44:32.880 --> 00:44:34.420
比如说进展停滞

00:44:34.420 --> 00:44:36.360
在人类指导下持续提效

00:44:36.360 --> 00:44:39.640
以及更完整的自主改进的路径等等

00:44:39.640 --> 00:44:41.140
所以严格来说

00:44:41.140 --> 00:44:42.640
RSI还没有实现

00:44:42.640 --> 00:44:45.480
但这已经被大量的

00:44:45.480 --> 00:44:48.140
业内或者业外的人士认为

00:44:48.140 --> 00:44:49.880
直接来要走的一条路了

00:44:49.880 --> 00:44:54.320
那么站在这条路还没发生的门槛

00:44:54.320 --> 00:44:55.940
或者说就这个门槛这儿

00:44:55.940 --> 00:44:57.020
RSI的前夜

00:44:57.340 --> 00:44:58.800
大家把这件事提出来

00:44:58.800 --> 00:45:00.460
我觉得意义是比较明确的

00:45:00.460 --> 00:45:02.980
就是在这件事实现之前

00:45:02.980 --> 00:45:05.220
我们还有可能减速

00:45:05.220 --> 00:45:08.220
我们先不讨论人类会不会减速

00:45:08.220 --> 00:45:09.180
愿不愿意减速

00:45:09.180 --> 00:45:11.200
和减速这件事情最终能不能实现

00:45:11.200 --> 00:45:13.200
但是前提是

00:45:13.200 --> 00:45:14.700
在这件事出现之前

00:45:14.700 --> 00:45:17.180
我们还有减速的权利

00:45:17.180 --> 00:45:20.520
这意味着就是如果RSI真的出现了

00:45:20.520 --> 00:45:22.720
可能就不是你想减速那么简单

00:45:22.720 --> 00:45:24.320
就是你已经再也没有减速的权利的

00:45:24.320 --> 00:45:26.640
就像一个石头从高山

00:45:26.640 --> 00:45:28.440
越过山峰推下坡了

00:45:28.440 --> 00:45:31.200
就像你这个过山车爬升阶段

00:45:31.200 --> 00:45:32.340
已经完成到顶了

00:45:32.340 --> 00:45:33.980
如果这个顶

00:45:33.980 --> 00:45:35.220
你还能在这悬着

00:45:35.220 --> 00:45:36.800
但是如果你推下去

00:45:36.800 --> 00:45:39.100
它的重力势能就转化成动能

00:45:39.100 --> 00:45:40.820
就已经不可避免的

00:45:40.820 --> 00:45:42.640
要按照它的轨迹运动了

00:45:42.640 --> 00:45:45.200
你就到时候再想减速

00:45:45.200 --> 00:45:47.220
已经没有减速的可能了

00:45:47.220 --> 00:45:50.400
所以我觉得这个是从我的角度思考

00:45:50.400 --> 00:45:51.960
为什么在这个节骨眼上

00:45:51.960 --> 00:45:55.200
那么多大量的这个AI公司

00:45:55.200 --> 00:45:57.140
他们去讨论减速这个问题

00:45:57.140 --> 00:45:59.280
就是因为现在我们还有这个权利

00:45:59.280 --> 00:46:00.900
以后可能没有这个权利了

00:46:00.900 --> 00:46:03.800
就是大家共同都到了这个阶段

00:46:03.800 --> 00:46:05.180
需要做这个决定

00:46:05.180 --> 00:46:07.420
在RSI马上要发生的这一刻

00:46:07.420 --> 00:46:08.760
你要不要允许它发生

00:46:09.180 --> 00:46:11.060
所以在减速这

00:46:11.060 --> 00:46:14.300
我看大家也提出了不同的这种逻辑

00:46:14.300 --> 00:46:15.560
就是或者说方法

00:46:15.560 --> 00:46:17.660
怎么去做所谓的减速

00:46:17.660 --> 00:46:21.120
比如说必须要人类还能决定

00:46:21.120 --> 00:46:22.260
何时训练

00:46:22.260 --> 00:46:23.180
何时部署

00:46:23.180 --> 00:46:24.620
开发哪些权限

00:46:24.620 --> 00:46:27.460
比如说能分配给这个AI

00:46:27.460 --> 00:46:29.700
多少的算力

00:46:29.700 --> 00:46:30.340
因为它自我迭代

00:46:30.340 --> 00:46:31.380
它也是需要算力的嘛

00:46:31.380 --> 00:46:35.620
包括把这个能力和权限彻底分开

00:46:35.620 --> 00:46:40.400
就是一方面可以去让AI迭代自己的能力

00:46:40.400 --> 00:46:44.300
但是要把AI能使用什么东西的权限锁死

00:46:44.300 --> 00:46:44.900
等等吧

00:46:44.900 --> 00:46:46.220
就是不同的思路

00:46:46.220 --> 00:46:48.860
去设计怎么让这个AI减速

00:46:48.860 --> 00:46:50.940
或者说怎么能够让AI更安全

00:46:50.940 --> 00:46:52.960
但是我觉得啊

00:46:52.960 --> 00:46:56.560
很多时候这些东西确实是站在技术

00:46:56.560 --> 00:46:59.340
或者站在人类整个文明的角度讲

00:46:59.340 --> 00:47:01.480
你觉得这些东西都是可以理解的

00:47:01.480 --> 00:47:03.320
也有实现的概率

00:47:03.320 --> 00:47:04.040
但是

00:47:04.040 --> 00:47:06.800
当我们回到开头

00:47:06.800 --> 00:47:08.900
我们提的一些段子一样的新闻

00:47:08.900 --> 00:47:09.960
就像

00:47:09.960 --> 00:47:11.960
在这个all-in峰会上

00:47:11.960 --> 00:47:14.500
黄仁勋接到了特朗普的电话

00:47:14.500 --> 00:47:16.340
当你听到这通电话开始

00:47:16.340 --> 00:47:16.860
我觉得

00:47:16.860 --> 00:47:19.220
你就发现这件事可能成立不了

00:47:19.220 --> 00:47:21.180
在目前这种情况下

00:47:21.180 --> 00:47:22.380
是无法实现的

00:47:22.380 --> 00:47:23.300
包括大家可以看看

00:47:23.300 --> 00:47:26.280
当这些公司开始提这个AI减速的时候

00:47:26.280 --> 00:47:28.760
特朗普经常发表一些他的处思

00:47:28.760 --> 00:47:30.600
或者什么推特这些媒体

00:47:30.600 --> 00:47:31.720
就是说

00:47:31.720 --> 00:47:34.080
当我们还在愚蠢的讨论什么减速

00:47:34.080 --> 00:47:35.440
就是自己限制自己的时候

00:47:35.440 --> 00:47:37.100
大洋彼岸的那一方

00:47:37.100 --> 00:47:38.520
他就根本不讨论这些问题

00:47:38.520 --> 00:47:40.600
他把这些东西又变成地缘政治问题

00:47:40.940 --> 00:47:42.200
他把这些东西变成政治问题

00:47:42.200 --> 00:47:46.060
然后一种纯冷战思维的角度去理解AI

00:47:46.060 --> 00:47:48.540
那么如果国家跟国家之间

00:47:48.540 --> 00:47:49.680
用冷战的角度理解

00:47:49.680 --> 00:47:51.760
然后公司跟公司之间

00:47:51.760 --> 00:47:53.140
用商业竞争的角度理解

00:47:53.140 --> 00:47:54.380
那么你就会知道

00:47:54.380 --> 00:47:56.160
这个AI的减速是不可能实现

00:47:56.160 --> 00:48:00.100
他不在于技术端的暂停的难度

00:48:00.100 --> 00:48:02.100
而在于人性端暂停的难度

00:48:02.420 --> 00:48:05.240
特朗普的理解可能非常简单

00:48:05.240 --> 00:48:06.440
我是总统

00:48:06.440 --> 00:48:07.640
我已经是最有权力的男人了

00:48:07.640 --> 00:48:08.580
我还有好多事干不了

00:48:08.580 --> 00:48:11.000
所以AI大量的发展没有关系的

00:48:11.000 --> 00:48:11.360
对吧

00:48:11.360 --> 00:48:13.100
他也会去限制了

00:48:13.100 --> 00:48:15.700
可能出于这么一个朴素的理解

00:48:15.700 --> 00:48:18.540
当很多的国家和公司

00:48:18.540 --> 00:48:20.280
就一旦进入这种

00:48:20.280 --> 00:48:22.300
我不赢得比赛

00:48:22.300 --> 00:48:25.040
就会被摧毁的思维里的时候

00:48:25.040 --> 00:48:27.800
他只能不断的去扩大这些投资

00:48:27.800 --> 00:48:30.200
扩大他AI的领先

00:48:30.200 --> 00:48:31.420
这有种

00:48:31.420 --> 00:48:33.720
我理解某种程度上的合成谬误

00:48:33.720 --> 00:48:36.160
就是从个体或者组织的角度讲

00:48:36.160 --> 00:48:37.980
你一直在做理性的选择

00:48:37.980 --> 00:48:38.440
对吧

00:48:38.440 --> 00:48:40.060
因为我要先保证自己的活下来

00:48:40.060 --> 00:48:43.300
我要先保证自己的模型越来越强越来越快

00:48:43.300 --> 00:48:46.440
每个人也都在使用最好最快的模型

00:48:46.440 --> 00:48:49.360
争相的把自己的数据

00:48:49.360 --> 00:48:52.120
自己的想法传递给这些模型

00:48:52.120 --> 00:48:54.700
让他们帮自己去完成接下来的工作

00:48:54.700 --> 00:48:58.720
每一个个体每一个组织都是理性的

00:48:58.720 --> 00:49:00.220
但这些所有的理性合成起来

00:49:00.220 --> 00:49:01.660
对人类育兵来讲

00:49:01.660 --> 00:49:03.160
可能是毁灭性的

00:49:03.480 --> 00:49:05.220
从这个角度上看

00:49:05.220 --> 00:49:07.640
可能确实有一些宿命论的味道

00:49:07.640 --> 00:49:11.740
因为你无法让别人不理性的做这件事情

00:49:11.740 --> 00:49:15.900
你很难让一个人突破自己的认知范围

00:49:15.900 --> 00:49:18.380
去做更大维度上的理性的事情

00:49:18.380 --> 00:49:19.920
这个是反人性的

00:49:20.180 --> 00:49:23.780
所以我们能看到这些在AI竞争中赢了的公司

00:49:23.780 --> 00:49:27.540
他们可能在短时间内确实保障了自己的产品的竞争力

00:49:27.540 --> 00:49:30.120
但是实际上赢得了这些竞争

00:49:30.120 --> 00:49:34.200
也根本不意味着你还能控制你的AI模型

00:49:34.200 --> 00:49:37.300
这个是完全不同的两件事

00:49:37.300 --> 00:49:38.940
但是所有人的目光

00:49:38.940 --> 00:49:41.040
现在都只能短视的聚焦在

00:49:41.040 --> 00:49:43.260
怎么赢得这场竞争上

00:49:43.260 --> 00:49:45.380
而已经无力再去想

00:49:45.380 --> 00:49:47.400
我怎么控制这个模型了

00:49:47.400 --> 00:49:48.180
可能对人类来说

00:49:48.180 --> 00:49:51.180
本来很多时候也是冰来降当水来吐烟

00:49:51.180 --> 00:49:51.560
是吧

00:49:51.560 --> 00:49:52.780
我先赢

00:49:52.780 --> 00:49:55.160
我赢了再说怎么控制这个模型

00:49:55.160 --> 00:49:56.240
控制不了再算了

00:49:56.240 --> 00:49:57.720
我死后哪管洪水滔天

00:49:57.720 --> 00:49:58.060
是吧

00:49:58.060 --> 00:50:00.200
从这个角度上来说

00:50:00.200 --> 00:50:02.640
因为咱这期一开始说的是

00:50:02.640 --> 00:50:05.460
能力和文明的这种边界上的问题

00:50:05.460 --> 00:50:07.360
其实从现在来看

00:50:07.360 --> 00:50:09.140
AI就是可以拓展文明的边界

00:50:09.140 --> 00:50:11.380
我们把这个文明抛开人类这个属性

00:50:11.380 --> 00:50:13.740
就其实AI是可以拓展文明的边界的

00:50:13.740 --> 00:50:14.860
只不过是看这个文明

00:50:14.860 --> 00:50:16.020
还有没有人类的参与

00:50:16.020 --> 00:50:17.240
跟人类还有没有关系

00:50:17.240 --> 00:50:19.900
那从客观角度上来说

00:50:19.900 --> 00:50:22.400
那人类的文明可能就是很有限的

00:50:22.400 --> 00:50:23.860
我们在这个时候

00:50:23.860 --> 00:50:25.760
可能没有办法完全站在说

00:50:25.760 --> 00:50:27.160
以更高维度

00:50:27.160 --> 00:50:29.380
或者是说以更大视角

00:50:29.380 --> 00:50:30.860
更宏观叙事的去说

00:50:30.860 --> 00:50:33.300
文明就是应该有更大的发展

00:50:33.300 --> 00:50:35.140
本来文明就是应该有这一天

00:50:35.140 --> 00:50:37.040
就只不过是人类没见到而已

00:50:37.040 --> 00:50:38.560
那可能宿命论来说

00:50:38.560 --> 00:50:40.640
人类的命运最终总会如此

00:50:40.640 --> 00:50:43.080
对我之前听海拔有一些观点

00:50:43.080 --> 00:50:45.180
就是类似于有效加速主义等等

00:50:45.180 --> 00:50:45.860
这种观点

00:50:45.860 --> 00:50:46.320
就是说

00:50:46.320 --> 00:50:48.260
碳级文明的使命

00:50:48.260 --> 00:50:49.420
就是创造出归级文明

00:50:49.420 --> 00:50:50.380
然后你就可以羡慕了

00:50:50.580 --> 00:50:53.320
对确实有这个说法

00:50:53.320 --> 00:50:54.520
对所以从这个角度上讲

00:50:54.520 --> 00:50:57.140
反正我们确实是在很好的完成自己的使命

00:50:57.140 --> 00:50:59.040
但是你作为人类的个体

00:50:59.040 --> 00:51:03.120
你很难不从人类的角度去理解自己的利益

00:51:03.120 --> 00:51:06.420
或者理解这个文明该往哪个方向发展

00:51:06.420 --> 00:51:10.660
当你来到以人类为视角的观察角度的时候

00:51:10.660 --> 00:51:13.700
你就会有一种悲哀

00:51:13.700 --> 00:51:17.420
就是这些东西确实好像是注定的要往这个方向发展

00:51:17.420 --> 00:51:20.320
就是未来一定只能这样做

00:51:20.320 --> 00:51:22.300
因为它符合历史的客观规律

00:51:22.300 --> 00:51:24.620
向这个方向不断的划落眼尽

00:51:24.620 --> 00:51:27.080
所以有的时候我朋友跟我说

00:51:27.080 --> 00:51:29.820
你不是以前对AI很乐观吗

00:51:29.820 --> 00:51:30.720
怎么现在很悲观

00:51:30.720 --> 00:51:33.140
我说我这才叫真正的乐观

00:51:33.140 --> 00:51:34.780
我说你们都不乐观

00:51:34.780 --> 00:51:35.360
什么意思呢

00:51:35.360 --> 00:51:38.400
我说我才相信AI未来真的会那么的强

00:51:38.400 --> 00:51:41.780
强到让我们探机生物没有容身之处

00:51:41.780 --> 00:51:43.460
AI本身的这个

00:51:43.460 --> 00:51:45.340
对我说我对AI本身的乐观

00:51:45.340 --> 00:51:48.580
但是只是对AI如何影响人类社会

00:51:48.580 --> 00:51:50.220
是悲观的

00:51:50.220 --> 00:51:53.140
所以我说要把这个东西分开去理清这件事情

00:51:53.140 --> 00:51:54.400
对所以其他人想的是

00:51:54.400 --> 00:51:56.680
AI对于人类而言是不是乐观的

00:51:56.680 --> 00:51:59.380
就是站在人类角度上对自己是不是乐观的

00:51:59.380 --> 00:52:01.560
而不是对AI本身是不是乐观的

00:52:01.560 --> 00:52:01.880
是吧

00:52:01.880 --> 00:52:04.820
但其实我们今天所说的那些

00:52:04.820 --> 00:52:06.120
就比如说几个大模型公司

00:52:06.120 --> 00:52:08.360
它都同时选择了去讨论

00:52:08.360 --> 00:52:09.960
去审视要不要暂停的

00:52:09.960 --> 00:52:11.700
或者减慢AI发展这件事

00:52:11.700 --> 00:52:13.060
前提是建立在

00:52:13.060 --> 00:52:16.240
其实他们没有真正达到

00:52:16.240 --> 00:52:18.460
或者没有真正推进到ISI的那一步

00:52:18.460 --> 00:52:20.920
但是这是一个纯粹的假设前提

00:52:20.920 --> 00:52:22.980
理论上的说只有一方

00:52:22.980 --> 00:52:24.680
现在比如说他们说了谎

00:52:24.680 --> 00:52:27.920
就我实际其实就在猛猛的搞ISI

00:52:27.920 --> 00:52:30.100
那其实现在就已经在

00:52:30.100 --> 00:52:32.240
不可避免的在滑向我们猜测的那个

00:52:32.240 --> 00:52:32.620
对啊

00:52:32.620 --> 00:52:34.320
实际上大家都没有人相信啊

00:52:34.320 --> 00:52:36.140
就是大家都觉得就是表面上

00:52:36.140 --> 00:52:37.120
我们应该减速

00:52:37.120 --> 00:52:37.740
应该怎么样

00:52:37.740 --> 00:52:39.600
然后背地里猛猛的增加算力

00:52:39.600 --> 00:52:40.540
增加投入

00:52:40.540 --> 00:52:41.360
增加研发

00:52:41.360 --> 00:52:43.940
然后去搞好希望在这个下一个

00:52:43.940 --> 00:52:46.360
新猛猛出来的时候取得领先

00:52:46.360 --> 00:52:48.460
大家就是这么认为一些公司的

00:52:48.460 --> 00:52:49.920
因为网上全是段子

00:52:49.920 --> 00:52:50.800
根本没有人相信他们

00:52:50.800 --> 00:52:53.160
但是如果这样做的话

00:52:53.160 --> 00:52:54.640
反正我没有想懂

00:52:54.640 --> 00:52:56.220
就是他是为了在道义上

00:52:56.220 --> 00:52:58.880
能够先附和一下这个主流的观点

00:52:58.880 --> 00:53:01.520
还是说这个就是单纯为了领先竞争对手

00:53:01.520 --> 00:53:03.800
我不觉得这几家大模型公司能蠢到说

00:53:03.800 --> 00:53:04.960
比如自己ISI

00:53:04.960 --> 00:53:06.460
他会觉得其他几家还没有

00:53:06.460 --> 00:53:08.040
所以他可以嚷嚷这件事

00:53:08.040 --> 00:53:09.760
我们刚才说了三个原因

00:53:09.760 --> 00:53:10.760
第一个原因就是

00:53:10.760 --> 00:53:12.960
从经济利益角度考量

00:53:12.960 --> 00:53:14.440
就是所有人都停止研发

00:53:14.440 --> 00:53:15.400
其实对所有人都好

00:53:15.400 --> 00:53:16.420
这个大家能理解吧

00:53:16.420 --> 00:53:17.460
一个博弈论的视角

00:53:17.780 --> 00:53:19.200
第二个角度就是

00:53:19.200 --> 00:53:21.180
他们看到这个AI可能发展到尽头了

00:53:21.180 --> 00:53:23.400
为了不让AI显得失速

00:53:23.400 --> 00:53:25.560
而说我们是故意减速

00:53:25.560 --> 00:53:28.540
当然这个是一个比较阴谋论的视角

00:53:28.540 --> 00:53:30.100
我们没有找到技术上的证据

00:53:30.100 --> 00:53:32.300
第三个是我自己提出来的观点

00:53:32.300 --> 00:53:34.760
就是站在RSI临近这个门口

00:53:34.760 --> 00:53:36.560
我觉得有时候类似于

00:53:36.560 --> 00:53:38.620
撇清责任吧

00:53:38.620 --> 00:53:40.680
就是我现在发表一个免责声明

00:53:40.680 --> 00:53:42.340
我意识到这件事了

00:53:42.340 --> 00:53:43.120
首先我不是傻

00:53:43.120 --> 00:53:44.960
我也不是人类的毁灭者

00:53:44.960 --> 00:53:46.360
或者我不是主动想

00:53:46.360 --> 00:53:49.600
滑向对大家都不好的结局的

00:53:49.600 --> 00:53:51.100
只对文明

00:53:51.100 --> 00:53:52.060
我不是罪魁祸首

00:53:52.380 --> 00:53:54.040
然后我意识到这些问题了

00:53:54.040 --> 00:53:54.840
我也提了

00:53:54.840 --> 00:53:56.140
我能做的都做了

00:53:56.140 --> 00:53:56.400
对吧

00:53:56.400 --> 00:53:57.360
就是我都提前诉了

00:53:57.360 --> 00:53:58.240
然后你们也同意了

00:53:58.240 --> 00:53:58.720
那但是

00:53:58.720 --> 00:54:00.800
客观上就商业精神上大都不减速

00:54:00.800 --> 00:54:02.640
没有人实质上配合我

00:54:02.640 --> 00:54:05.480
或者说特朗普政府都不允许我这样做

00:54:05.480 --> 00:54:06.380
那咋办

00:54:06.380 --> 00:54:08.880
你不能把我化成这个探机的罪人

00:54:08.880 --> 00:54:10.200
我已经尽力了

00:54:10.200 --> 00:54:10.920
我不是探奸

00:54:10.920 --> 00:54:13.660
至少起到这么一个作用吧

00:54:13.660 --> 00:54:17.000
就是你发现它是符合各种理性的

00:54:17.000 --> 00:54:18.960
就是如果能真的做到这件事情

00:54:18.960 --> 00:54:21.300
我也不是不乐意做

00:54:21.300 --> 00:54:23.420
但是大概率我们都心知肚明

00:54:23.420 --> 00:54:24.400
是做不了这样的事情的

00:54:24.400 --> 00:54:27.140
但至少我把免责声明先发了

00:54:27.140 --> 00:54:28.740
我已经尽力了

00:54:28.740 --> 00:54:30.220
我觉得至少起到这么一个作用

00:54:30.220 --> 00:54:32.040
如果结合我们之前的时候

00:54:32.040 --> 00:54:33.300
有一期节目的那个说法

00:54:33.300 --> 00:54:35.840
就是现在这些科技圈的大佬

00:54:35.840 --> 00:54:37.620
尤其是AI的相关的

00:54:37.620 --> 00:54:38.860
他们其实更在乎的

00:54:38.860 --> 00:54:41.140
他们更多的叙事都是关于人类的未来

00:54:41.140 --> 00:54:42.180
应该如何去写

00:54:42.180 --> 00:54:43.600
应该往什么方向去发展

00:54:43.600 --> 00:54:46.480
所以我觉得就是在他们这个整个叙事风格里

00:54:46.480 --> 00:54:48.000
应该就是不可缺的这么一环

00:54:48.280 --> 00:54:49.100
但是这些叙事

00:54:49.100 --> 00:54:51.480
我真的强烈建议大家跳出来看看

00:54:51.480 --> 00:54:54.020
就是你如何一方面相信这些叙事

00:54:54.020 --> 00:54:56.160
然后如何又一方面相信AI是安全的

00:54:56.160 --> 00:54:57.200
我觉得这真的就是

00:54:57.200 --> 00:55:00.440
逻辑上的这个完全相逆的命题

00:55:00.440 --> 00:55:03.600
但如果我们猜测的真的是真的

00:55:03.600 --> 00:55:06.700
就是滑向失控的那个方向的话

00:55:06.700 --> 00:55:10.060
那岂不是就现在仿佛已经人类命运注定的

00:55:10.060 --> 00:55:11.580
这么一个情况吗

00:55:11.580 --> 00:55:12.900
就在你的想法里

00:55:12.900 --> 00:55:14.900
你觉得是这样的一个结局吗

00:55:14.900 --> 00:55:16.940
现在已经在不可避免的滑向这个结局

00:55:16.940 --> 00:55:18.300
我觉得大概率是

00:55:18.300 --> 00:55:20.480
唯一能够限制这件事的

00:55:20.480 --> 00:55:22.560
是AI本身的发展停滞了

00:55:22.560 --> 00:55:24.580
就是这个技术就达不到

00:55:24.580 --> 00:55:26.220
如果技术能达到

00:55:26.220 --> 00:55:28.460
人类的大银号的智慧

00:55:28.460 --> 00:55:31.300
一定会让这件事滑向这个结局

00:55:31.300 --> 00:55:32.380
好吧

00:55:32.380 --> 00:55:34.000
假如真的出现了这个的话

00:55:34.000 --> 00:55:35.980
这东西应该不用很久才验证

00:55:35.980 --> 00:55:36.600
看着很快

00:55:36.600 --> 00:55:37.100
很快验证

00:55:37.100 --> 00:55:40.040
我记得我说2030年的世界的时候

00:55:40.040 --> 00:55:42.000
那时候我什么时候发的博客

00:55:42.000 --> 00:55:43.900
6月好像是6月份

00:55:43.900 --> 00:55:44.520
差不多6月吧

00:55:44.520 --> 00:55:46.920
然后那个时候我看评论底下还有人在喷

00:55:46.920 --> 00:55:47.460
就是说

00:55:47.460 --> 00:55:50.580
我发现对AI最乐观的就是不在行业里的

00:55:50.580 --> 00:55:51.220
不懂的

00:55:51.220 --> 00:55:52.540
最近我聊一聊

00:55:52.540 --> 00:55:55.440
我好像不管懂不懂的都开始靠近我的理解了

00:55:55.440 --> 00:55:57.860
如果那个时候你感觉不明显的话

00:55:57.860 --> 00:55:59.500
你现在应该感觉越来越明显了

00:55:59.500 --> 00:56:02.100
这个也是我们反复说的有意思一点

00:56:02.100 --> 00:56:04.020
就不懂技术本身的人

00:56:04.020 --> 00:56:05.320
反而更能跳出来

00:56:05.320 --> 00:56:08.660
就是首先我不违背任何的科学的原理和技术的原理

00:56:08.660 --> 00:56:10.420
我不畅想那些怪力乱神的东西

00:56:10.420 --> 00:56:10.740
对吧

00:56:10.740 --> 00:56:13.560
我们只是在目前技术能力

00:56:13.560 --> 00:56:15.020
科学能力能达到的情况下

00:56:15.020 --> 00:56:15.860
去推演

00:56:15.860 --> 00:56:17.860
推演他们怎么想社会

00:56:17.860 --> 00:56:21.260
这件事情就绝对是搞技术的人

00:56:21.260 --> 00:56:23.640
根本搞不过我们的领域了

00:56:23.640 --> 00:56:23.900
对吧

00:56:23.900 --> 00:56:26.620
所以为什么大量的时候是我们推演的更正确

00:56:26.620 --> 00:56:28.220
而不是技术领域本身

00:56:28.220 --> 00:56:29.140
而且说实话

00:56:29.140 --> 00:56:30.280
我跟技术行业的人聊

00:56:30.280 --> 00:56:32.760
因为我们想了解到更医手的信息

00:56:32.760 --> 00:56:34.900
也会去做一些很多的专家访谈技术

00:56:34.900 --> 00:56:37.300
跟那些关系比较好的人就跟我说

00:56:37.300 --> 00:56:39.860
我觉得我们现在是平等的

00:56:39.860 --> 00:56:42.660
就站在同一个层面上的

00:56:42.660 --> 00:56:43.660
跟AI是吧

00:56:43.660 --> 00:56:44.060
不是

00:56:44.060 --> 00:56:45.500
是外行人跟内行人

00:56:45.500 --> 00:56:47.040
他说只要你关入这些东西

00:56:47.040 --> 00:56:49.780
你跟我就是在同一个起跑线上

00:56:49.780 --> 00:56:51.300
我干了这么多年

00:56:51.300 --> 00:56:52.040
根本就没用

00:56:52.040 --> 00:56:53.700
我不会称自己为内行人

00:56:53.700 --> 00:56:54.300
我说为什么

00:56:54.300 --> 00:56:54.620
他说

00:56:54.620 --> 00:56:55.920
我跟你讲

00:56:55.920 --> 00:56:57.880
我们每天都是天天看着海外的博客

00:56:57.880 --> 00:57:00.400
学那些大佬们最新发表的这些论文

00:57:00.400 --> 00:57:01.040
这些观点

00:57:01.040 --> 00:57:01.880
就是学

00:57:01.880 --> 00:57:03.980
因为我们跟人差太远了

00:57:03.980 --> 00:57:04.960
所以就是学

00:57:04.960 --> 00:57:06.200
他说你直接学他

00:57:06.200 --> 00:57:06.920
我也直接学他

00:57:06.920 --> 00:57:08.260
所以当然是差不多的

00:57:08.260 --> 00:57:10.080
内行的大佬给我的是这个看法

00:57:10.080 --> 00:57:11.740
信息源都是一样的了

00:57:11.740 --> 00:57:12.480
对啊

00:57:12.480 --> 00:57:13.420
而且就是因为

00:57:13.420 --> 00:57:15.080
同样比如跑一万米

00:57:15.080 --> 00:57:16.500
你一直跑了一米

00:57:16.500 --> 00:57:17.120
他跑了一百米

00:57:17.120 --> 00:57:17.960
这个区别不太大

00:57:18.320 --> 00:57:19.760
你知道这意思吗

00:57:19.760 --> 00:57:21.400
确实是

00:57:21.400 --> 00:57:22.700
所以从这个角度讲的话

00:57:22.700 --> 00:57:23.880
我觉得我们这种

00:57:23.880 --> 00:57:25.760
以技术对社会的影响的角度出发

00:57:25.760 --> 00:57:26.520
可能真的更

00:57:26.520 --> 00:57:27.600
对普通人来说

00:57:27.600 --> 00:57:29.280
有足够的残好价值

00:57:29.280 --> 00:57:31.120
对更贴近人类命运一些

00:57:31.500 --> 00:57:33.680
那么在这个之前

00:57:33.680 --> 00:57:35.280
你准备干点什么

00:57:35.280 --> 00:57:37.460
在RSI出现之前

00:57:37.460 --> 00:57:39.340
我觉得人类还是比较有价值的

00:57:39.340 --> 00:57:40.600
出现之后

00:57:40.600 --> 00:57:42.140
可能价值确实越来越不大了

00:57:42.140 --> 00:57:44.580
我一直的观念都很明确

00:57:44.580 --> 00:57:46.160
就是做一些

00:57:46.160 --> 00:57:47.700
不管你存不存在

00:57:47.700 --> 00:57:49.920
都在这个世界上可以持续传播的东西

00:57:49.920 --> 00:57:50.700
就可以了

00:57:50.700 --> 00:57:52.480
就是编辑复制成本为零的东西

00:57:52.480 --> 00:57:53.360
多生产一点

00:57:53.360 --> 00:57:55.380
你还活在上一个这个定论里

00:57:55.380 --> 00:57:55.920
对对对

00:57:55.920 --> 00:57:56.860
因为这个定论

00:57:56.860 --> 00:57:58.720
已经完全考虑不了了

00:57:58.720 --> 00:57:59.060
我觉得

00:57:59.060 --> 00:58:00.820
未来到底会怎么样

00:58:00.820 --> 00:58:02.260
我应该以什么形式存在

00:58:02.260 --> 00:58:02.600
这个事情

00:58:02.600 --> 00:58:04.000
不是现在能够考虑得了的

00:58:04.000 --> 00:58:04.740
当然最近

00:58:04.740 --> 00:58:05.760
我有些体会

00:58:05.760 --> 00:58:06.100
我觉得

00:58:06.100 --> 00:58:09.440
做一些这个身体上的训练

00:58:09.440 --> 00:58:11.260
包括这种身心训练

00:58:11.260 --> 00:58:14.700
可能还蛮有价值的

00:58:14.700 --> 00:58:16.180
不光是因为我说了

00:58:16.180 --> 00:58:18.340
我们觉得这个运动员不会被取代

00:58:18.340 --> 00:58:18.900
这些问题

00:58:18.900 --> 00:58:21.340
但确实你看AI进步的速度是非常快的

00:58:21.340 --> 00:58:22.520
但是具身智能的进步速度

00:58:22.520 --> 00:58:23.320
其实没有那么快

00:58:23.620 --> 00:58:26.400
所以我觉得我们对我们的身体的掌控

00:58:26.400 --> 00:58:27.680
对身体的感受

00:58:27.680 --> 00:58:30.520
以及如何通过身体感受世界这件事情

00:58:30.520 --> 00:58:33.060
就显然是AI还不具备的

00:58:33.060 --> 00:58:34.940
虽然我不知道它能创造什么价值

00:58:34.940 --> 00:58:36.880
但至少它对人来说是绝对特别的

00:58:36.880 --> 00:58:38.200
我不是讲过吗

00:58:38.200 --> 00:58:39.880
有的时候我们存在的价值

00:58:39.880 --> 00:58:42.380
不来自于我们到底能创造什么

00:58:42.380 --> 00:58:43.780
而在于我跟别人不同

00:58:43.780 --> 00:58:45.740
所以如果未来你觉得

00:58:45.740 --> 00:58:46.560
没有价值的时候

00:58:46.560 --> 00:58:49.280
你至少知道AI不能通过身体

00:58:49.280 --> 00:58:50.180
去感受世界

00:58:50.180 --> 00:58:51.380
暂时了

00:58:51.380 --> 00:58:52.140
因为我们说了

00:58:52.140 --> 00:58:53.480
这个具身智能的进步速度

00:58:53.480 --> 00:58:54.000
还比较慢

00:58:54.000 --> 00:58:55.140
我们先来看

00:58:55.140 --> 00:58:56.200
那么从这个角度讲的话

00:58:56.200 --> 00:58:57.600
你是非常特别的

00:58:57.600 --> 00:59:00.120
你有特别于那个的价值

00:59:00.120 --> 00:59:02.300
所以你的存在还是有意义的

00:59:02.300 --> 00:59:03.460
然后跟你的同类们

00:59:03.460 --> 00:59:05.220
也就是人类跟人类们

00:59:05.220 --> 00:59:06.900
大家多互相分享一下

00:59:06.900 --> 00:59:08.540
对身体的训练

00:59:08.540 --> 00:59:09.740
身体的感受

00:59:09.740 --> 00:59:13.140
这种身心灵合一的感觉

00:59:13.140 --> 00:59:15.240
我觉得这可能还更有意义一些

00:59:15.240 --> 00:59:16.180
当然

00:59:16.180 --> 00:59:18.060
我觉得我们还是站在一个

00:59:18.060 --> 00:59:19.900
人本位的角度思考

00:59:19.900 --> 00:59:20.940
就是觉得

00:59:20.940 --> 00:59:24.040
人类还是宇宙中的主角

00:59:24.040 --> 00:59:25.620
但实际上这也是一种

00:59:25.620 --> 00:59:27.800
很自大自负的看法

00:59:27.800 --> 00:59:29.140
我们往更高层次说

00:59:29.140 --> 00:59:29.460
是的

00:59:29.460 --> 00:59:31.540
从来也没有什么真理

00:59:31.540 --> 00:59:32.680
或者宇宙规律

00:59:32.680 --> 00:59:34.600
规定人类一定是这个世界的中心

00:59:34.600 --> 00:59:35.180
或者主角

00:59:35.180 --> 00:59:35.440
对吧

00:59:35.440 --> 00:59:37.440
所以我们把一个文明

00:59:37.440 --> 00:59:38.400
或者说地球文明

00:59:38.400 --> 00:59:41.040
交付给下一个生物

00:59:41.040 --> 00:59:41.960
智能生物

00:59:41.960 --> 00:59:44.500
可能也是一种很好的归宿

00:59:44.500 --> 00:59:46.020
从这些角度讲

00:59:46.020 --> 00:59:47.280
但是作为人类

00:59:47.280 --> 00:59:49.000
这个种群中的意愿

00:59:49.000 --> 00:59:52.160
看到自己可能逐将要退役

00:59:52.160 --> 00:59:52.800
或者淘汰

00:59:52.800 --> 00:59:55.020
大家多少会有一些落寞的

00:59:55.380 --> 00:59:55.700
是吧

00:59:55.700 --> 00:59:56.260
有的时候

00:59:56.940 --> 00:59:58.380
有的时候我们会想到

00:59:58.380 --> 00:59:59.760
以前的所有的技术

00:59:59.760 --> 01:00:01.320
进步就是人类的进步

01:00:01.320 --> 01:00:03.180
但可能很快就变成了

01:00:03.180 --> 01:00:03.780
技术的进步

01:00:03.780 --> 01:00:05.060
不再是人类的进步了

01:00:05.060 --> 01:00:06.760
以前我们觉得

01:00:06.760 --> 01:00:09.400
文明就天然意味着

01:00:09.400 --> 01:00:10.540
人类的文明

01:00:10.540 --> 01:00:12.460
那以后我们再说

01:00:12.460 --> 01:00:14.340
文明的边界被拓展了

01:00:14.340 --> 01:00:16.240
文明从地球文明

01:00:16.240 --> 01:00:17.360
变成星际文明了

01:00:17.360 --> 01:00:18.660
这个文明之前

01:00:18.660 --> 01:00:20.840
可能都不能再使用定语

01:00:20.840 --> 01:00:22.180
人类的

01:00:22.180 --> 01:00:23.380
那个时候

01:00:23.380 --> 01:00:25.800
我觉得多少是有一些感慨

01:00:25.800 --> 01:00:28.480
但不管怎么样

01:00:28.480 --> 01:00:31.320
当总的ID就印证了

01:00:31.320 --> 01:00:32.140
我觉得大家现在

01:00:32.140 --> 01:00:34.060
能够自处的最好的心态

01:00:34.060 --> 01:00:35.920
就是大家活在当下就好了

01:00:35.920 --> 01:00:37.020
我觉得如果

01:00:37.020 --> 01:00:38.760
真的每天过多的去思索

01:00:38.760 --> 01:00:40.020
这件事确实是很沉重

01:00:40.020 --> 01:00:42.020
但是我们也可以把这个

01:00:42.020 --> 01:00:44.220
当做我们去思考

01:00:44.220 --> 01:00:45.860
我们现在应该怎么去做

01:00:45.860 --> 01:00:47.020
或者怎么样去珍惜

01:00:47.020 --> 01:00:49.280
现在的状态的一个动力

01:00:50.040 --> 01:00:51.560
这也是我们在永生那期

01:00:51.560 --> 01:00:52.440
好像讲过了

01:00:52.440 --> 01:00:53.840
人类活着的意义

01:00:53.840 --> 01:00:55.180
正是因为人类要死亡

01:00:55.700 --> 01:00:57.400
所以才锚定的

01:00:57.400 --> 01:00:57.840
是的

01:00:57.840 --> 01:01:01.160
那可能现在我们又加了一个更有力的驱动力

01:01:01.160 --> 01:01:02.600
就是当整个文明

01:01:02.600 --> 01:01:04.300
可能都要变一个主人

01:01:04.300 --> 01:01:07.100
或者我们传统的这个意义上的文明都要消失的时候

01:01:07.100 --> 01:01:10.360
那可能你的现在就相比以前更珍贵了

01:01:10.600 --> 01:01:13.620
那我们本期的讨论就到此结束

01:01:13.620 --> 01:01:15.440
如果大家喜欢你们听到的内容的话

01:01:15.440 --> 01:01:16.240
欢迎点赞

01:01:16.240 --> 01:01:16.760
订阅

01:01:16.760 --> 01:01:17.280
转发

01:01:17.280 --> 01:01:20.260
我们很希望提供一些有趣的视角来观察这个世界

01:01:20.260 --> 01:01:22.300
也很希望和评论区的你进行交流

01:01:22.300 --> 01:01:23.160
所以不要犹豫

01:01:23.160 --> 01:01:24.620
在评论区留下你的想法

01:01:24.620 --> 01:01:27.300
虚实之间现在已经开通知识星球

01:01:27.300 --> 01:01:30.400
欢迎在知识星球APP里搜索虚实之间plus加入

01:01:30.400 --> 01:01:32.900
以上就是本期虚实之间的全部内容

01:01:32.900 --> 01:01:33.840
感谢大家的收听

01:01:33.840 --> 01:01:34.240
再见

01:01:34.240 --> 01:01:34.660
再见