在大的算力公司或大的AI lab公司里
Download transcript (.vtt)
0:00
0:10
0:14
0:18
0:22
0:25
0:29
0:33
0:35
0:45
0:49
0:52
0:54
0:57
0:59
1:01
1:08
1:11
1:11
1:13
1:15
1:18
1:21
1:24
1:27
1:28
1:30
1:31
1:31
1:34
1:34
1:35
1:36
1:37
1:40
1:42
1:44
1:45
1:45
1:46
1:48
1:53
1:54
1:58
2:01
2:02
2:05
2:07
2:09
2:13
2:15
2:19
2:20
2:22
2:24
2:27
2:30
2:32
2:33
2:33
2:35
2:38
2:41
2:43
2:45
2:47
2:48
2:48
2:50
2:51
2:55
2:56
2:57
3:00
3:03
3:04
3:06
3:07
3:08
3:09
3:11
3:11
3:12
3:13
3:14
3:16
3:18
3:23
3:25
3:28
3:30
3:32
3:34
3:37
3:39
3:42
3:44
3:45
3:47
3:48
3:50
3:50
3:51
3:52
3:53
3:55
3:56
3:58
4:00
4:01
4:02
4:03
4:06
4:07
4:08
4:10
4:12
4:13
4:14
4:16
4:17
4:18
4:19
4:21
4:24
4:26
4:27
4:28
4:29
4:30
4:32
4:33
4:35
4:36
4:38
4:39
4:41
4:44
4:45
4:46
4:48
4:48
4:50
4:52
4:54
4:55
4:57
4:58
5:02
5:06
5:09
5:11
5:12
5:14
5:17
5:19
5:20
5:20
5:22
5:24
5:26
5:27
5:28
5:30
5:32
5:34
5:35
5:38
5:41
5:44
5:45
5:47
5:49
5:51
5:54
5:57
5:59
6:03
6:05
6:06
6:08
6:10
6:12
6:14
6:15
6:16
6:19
6:21
6:24
6:25
6:28
6:29
6:30
6:34
6:36
6:41
6:43
6:46
6:49
6:49
6:53
6:55
6:56
6:58
7:00
7:04
7:07
7:09
7:11
7:12
7:15
7:18
7:21
7:23
7:25
7:26
7:30
7:33
7:35
7:36
7:36
7:36
7:37
7:37
7:38
7:39
7:40
7:40
7:41
7:42
7:46
7:48
7:49
7:50
7:51
7:55
7:56
7:57
7:59
8:01
8:04
8:06
8:08
8:10
8:10
8:12
8:14
8:15
8:15
8:16
8:18
8:19
8:19
8:20
8:22
8:23
8:24
8:24
8:24
8:27
8:28
8:30
8:31
8:32
8:33
8:35
8:36
8:38
8:38
8:39
8:40
8:42
8:45
8:46
8:48
8:49
8:50
8:53
8:56
8:57
8:57
8:58
8:59
9:01
9:03
9:05
9:06
9:08
9:09
9:11
9:11
9:14
9:15
9:17
9:20
9:22
9:24
9:26
9:27
9:30
9:30
9:31
9:33
9:34
9:37
9:39
9:40
9:42
9:43
9:45
9:46
9:47
9:49
9:50
9:52
9:54
9:55
9:57
9:59
10:03
10:05
10:07
10:11
10:12
10:15
10:17
10:18
10:22
10:24
10:25
10:27
10:28
10:30
10:31
10:33
10:36
10:38
10:41
10:43
10:45
10:45
10:46
10:49
10:51
10:53
10:55
10:55
10:58
11:00
11:01
11:03
11:05
11:08
11:09
11:11
11:12
11:13
11:15
11:17
11:19
11:20
11:22
11:22
11:25
11:26
11:26
11:28
11:30
11:34
11:36
11:38
11:40
11:41
11:45
11:46
11:48
11:51
11:53
11:56
11:57
11:59
12:01
12:03
12:04
12:05
12:07
12:08
12:09
12:12
12:14
12:16
12:17
12:18
12:19
12:20
12:21
12:22
12:24
12:24
12:26
12:29
12:31
12:33
12:34
12:37
12:38
12:40
12:42
12:45
12:47
12:49
12:50
12:51
12:53
12:54
12:56
12:56
12:59
13:01
13:02
13:04
13:06
13:08
13:09
13:13
13:14
13:15
13:16
13:17
13:19
13:22
13:26
13:29
13:31
13:32
13:32
13:33
13:37
13:38
13:40
13:41
13:43
13:47
13:48
13:50
13:53
13:54
13:55
13:55
13:57
14:00
14:01
14:02
14:02
14:03
14:05
14:06
14:07
14:09
14:11
14:12
14:14
14:15
14:18
14:19
14:21
14:23
14:25
14:27
14:29
14:31
14:32
14:36
14:39
14:41
14:44
14:45
14:46
14:47
14:49
14:49
14:51
14:53
14:54
14:56
14:58
14:59
15:00
15:02
15:04
15:07
15:08
15:12
15:13
15:16
15:17
15:20
15:23
15:26
15:27
15:28
15:32
15:34
15:36
15:38
15:39
15:43
15:46
15:47
15:49
15:51
15:54
15:56
15:57
15:58
15:59
16:00
16:02
16:04
16:07
16:08
16:11
16:13
16:14
16:16
16:18
16:21
16:24
16:27
16:28
16:30
16:31
16:34
16:36
16:38
16:39
16:42
16:43
16:45
16:47
16:49
16:51
16:53
16:54
16:57
16:58
16:59
17:00
17:01
17:03
17:05
17:07
17:09
17:10
17:11
17:12
17:13
17:14
17:16
17:17
17:18
17:18
17:20
17:22
17:24
17:25
17:27
17:29
17:31
17:34
17:36
17:37
17:39
17:41
17:42
17:44
17:46
17:47
17:47
17:48
17:50
17:52
17:53
17:54
17:56
17:56
17:57
17:59
18:00
18:02
18:04
18:05
18:06
18:07
18:09
18:10
18:11
18:11
18:13
18:14
18:16
18:17
18:18
18:19
18:21
18:25
18:26
18:28
18:30
18:31
18:32
18:34
18:36
18:38
18:39
18:41
18:42
18:43
18:45
18:46
18:48
18:50
18:51
18:52
18:53
18:54
18:55
18:58
18:59
19:00
19:02
19:04
19:05
19:06
19:07
19:09
19:11
19:13
19:14
19:16
19:18
19:20
19:21
19:23
19:24
19:26
19:28
19:29
19:30
19:33
19:34
19:36
19:37
19:38
19:39
19:40
19:42
19:43
19:44
19:47
19:48
19:49
19:50
19:52
19:53
19:53
19:55
19:56
19:57
19:58
20:00
20:01
20:03
20:04
20:05
20:06
20:08
20:10
20:11
20:13
20:13
20:14
20:15
20:18
20:19
20:20
20:21
20:22
20:23
20:25
20:27
20:28
20:29
20:31
20:32
20:33
20:35
20:37
20:38
20:40
20:41
20:43
20:45
20:46
20:47
20:48
20:50
20:52
20:54
20:56
20:57
20:58
21:00
21:01
21:03
21:04
21:06
21:08
21:09
21:12
21:14
21:15
21:16
21:17
21:18
21:19
21:23
21:24
21:27
21:31
21:33
21:37
21:38
21:40
21:42
21:45
21:46
21:49
21:51
21:53
21:57
21:58
22:01
22:06
22:07
22:08
22:11
22:14
22:16
22:19
22:23
22:27
22:30
22:32
22:34
22:37
22:40
22:43
22:44
22:46
22:49
22:50
22:51
22:52
22:54
22:54
22:57
22:58
23:01
23:02
23:04
23:05
23:07
23:08
23:11
23:13
23:15
23:17
23:19
23:20
23:21
23:22
23:24
23:27
23:29
23:30
23:31
23:32
23:33
23:35
23:37
23:39
23:41
23:43
23:44
23:46
23:47
23:49
23:49
23:51
23:51
23:53
23:53
23:56
24:00
24:01
24:02
24:04
24:05
24:07
24:08
24:10
24:13
24:15
24:16
24:17
24:19
24:20
24:21
24:23
24:30
24:31
24:33
24:37
24:44
24:45
24:48
24:50
24:55
24:58
25:00
25:02
25:05
25:08
25:11
25:15
25:17
25:21
25:23
25:27
25:30
25:31
25:32
25:37
25:38
25:40
25:42
25:42
25:46
25:48
25:50
25:52
25:55
25:58
25:59
26:01
26:03
26:06
26:10
26:15
26:17
26:18
26:22
26:25
26:27
26:30
26:33
26:35
26:38
26:39
26:42
26:44
26:46
26:46
26:47
26:51
26:52
26:55
26:58
26:59
27:02
27:06
27:08
27:09
27:12
27:13
27:14
27:16
27:17
27:18
27:20
27:22
27:23
27:25
27:29
27:33
27:33
27:37
27:40
27:42
27:45
27:46
27:50
27:51
27:53
27:55
27:56
27:57
28:03
28:06
28:06
28:11
28:15
28:20
28:24
28:27
28:34
28:35
28:39
28:41
28:44
28:49
28:50
28:53
28:56
28:57
28:59
29:01
29:04
29:06
29:08
29:09
29:11
29:13
29:16
29:18
29:18
29:19
29:20
29:22
29:23
29:25
29:28
29:30
29:33
29:35
29:35
29:38
29:39
29:39
29:42
29:43
29:45
29:47
29:50
29:51
29:53
29:55
29:58
29:58
30:01
30:03
30:04
30:05
30:06
30:08
30:10
30:11
30:12
30:13
30:14
30:16
30:18
30:19
30:21
30:23
30:23
30:24
30:26
30:27
30:28
30:30
30:32
30:33
30:36
30:37
30:38
30:40
30:42
30:44
30:45
30:47
30:48
30:49
30:50
30:52
30:53
30:54
30:55
30:57
30:59
31:00
31:00
31:01
31:02
31:03
31:05
31:06
31:07
31:09
31:09
31:11
31:13
31:14
31:14
31:14
31:17
31:19
31:21
31:23
31:24
31:27
31:30
31:31
31:32
31:34
31:35
31:37
31:38
31:40
31:42
31:44
31:46
31:55
31:59
32:04
32:05
32:09
32:13
32:16
32:19
32:21
32:24
32:28
32:32
32:36
32:38
32:41
32:43
32:51
32:53
32:56
32:59
33:00
33:01
33:03
33:05
33:07
33:09
33:10
33:11
33:14
33:16
33:18
33:20
33:24
33:26
33:26
33:30
33:32
33:35
33:40
33:42
33:45
33:48
33:51
33:53
33:58
34:02
34:06
34:08
34:11
34:14
34:16
34:19
34:20
34:23
34:25
34:26
34:30
34:33
34:33
34:35
34:38
34:42
34:45
34:47
34:48
34:53
34:56
34:58
35:01
35:04
35:06
35:08
35:10
35:12
35:15
35:20
35:23
35:24
35:25
35:30
35:33
35:35
35:39
35:43
35:47
35:50
35:54
35:56
36:00
36:02
36:05
36:10
36:13
36:15
36:15
36:18
36:19
36:21
36:22
36:24
36:26
36:28
36:31
36:33
36:34
36:35
36:39
36:41
36:43
36:46
36:48
36:51
36:53
36:55
36:58
37:00
37:03
37:05
37:07
37:09
37:11
37:14
37:16
37:17
37:19
37:20
37:21
37:25
37:28
37:31
37:32
37:35
37:37
37:39
37:43
37:45
37:47
37:49
37:51
37:53
37:55
37:58
38:01
38:04
38:06
38:09
38:12
38:14
38:16
38:19
38:22
38:24
38:27
38:29
38:31
38:34
38:38
38:41
38:44
38:46
38:49
38:50
38:53
38:55
38:56
38:58
38:59
39:00
39:02
39:05
39:07
39:08
39:10
39:11
39:14
39:15
39:16
39:18
39:23
39:25
39:28
39:29
39:31
39:34
39:36
39:39
39:43
39:45
39:46
39:48
39:51
39:53
39:56
39:58
39:59
39:59
40:00
40:04
40:05
40:08
40:10
40:13
40:14
40:17
40:18
40:20
40:21
40:23
40:24
40:25
40:26
40:26
40:30
40:32
40:36
40:38
40:39
40:41
40:43
40:44
40:45
40:46
40:46
40:48
40:49
40:50
40:52
40:54
40:57
41:00
41:01
41:03
41:05
41:06
41:07
41:08
41:10
41:13
41:16
41:17
41:20
41:24
41:27
41:30
41:32
41:33
41:35
41:40
41:41
41:42
41:44
41:45
41:46
41:47
41:49
41:50
41:51
41:53
41:54
41:57
41:58
41:59
42:00
42:02
42:05
42:07
42:07
42:09
42:10
42:11
42:12
42:15
42:15
42:16
42:17
42:18
42:20
42:21
42:23
42:24
42:25
42:26
42:27
42:29
42:33
42:34
42:37
42:37
42:39
42:40
42:42
42:43
42:44
42:45
42:47
42:49
42:51
42:52
42:53
42:56
42:57
42:59
43:00
43:02
43:03
43:04
43:05
43:06
43:08
43:09
43:11
43:13
43:15
43:16
43:18
43:21
43:23
43:24
43:25
43:25
43:28
43:29
43:30
43:31
43:31
43:33
43:36
43:38
43:41
43:43
43:46
43:48
43:49
43:50
43:51
43:53
43:54
43:56
43:58
43:59
44:00
44:02
44:03
44:05
44:07
44:09
44:11
44:12
44:16
44:18
44:19
44:23
44:26
44:28
44:29
44:32
44:34
44:36
44:39
44:41
44:42
44:45
44:48
44:49
44:54
44:55
44:57
44:58
45:00
45:02
45:05
45:08
45:09
45:11
45:13
45:14
45:17
45:20
45:22
45:24
45:26
45:28
45:31
45:32
45:33
45:35
45:36
45:39
45:40
45:42
45:45
45:47
45:50
45:51
45:55
45:57
45:59
46:00
46:03
46:05
46:07
46:09
46:11
46:14
46:15
46:17
46:21
46:22
46:23
46:24
46:27
46:29
46:30
46:31
46:35
46:40
46:44
46:44
46:46
46:48
46:50
46:52
46:56
46:59
47:01
47:03
47:04
47:06
47:08
47:09
47:11
47:14
47:16
47:16
47:19
47:21
47:22
47:23
47:26
47:28
47:30
47:31
47:34
47:35
47:37
47:38
47:40
47:42
47:46
47:48
47:49
47:51
47:53
47:54
47:56
48:00
48:02
48:05
48:06
48:07
48:08
48:11
48:11
48:13
48:15
48:18
48:20
48:22
48:25
48:27
48:30
48:31
48:33
48:36
48:37
48:38
48:40
48:43
48:46
48:49
48:52
48:54
48:58
49:00
49:01
49:03
49:05
49:07
49:11
49:15
49:18
49:20
49:23
49:27
49:30
49:34
49:37
49:38
49:41
49:43
49:45
49:47
49:48
49:51
49:51
49:52
49:55
49:56
49:57
49:58
50:00
50:02
50:05
50:07
50:09
50:11
50:13
50:14
50:16
50:17
50:19
50:22
50:23
50:25
50:27
50:29
50:30
50:33
50:35
50:37
50:38
50:40
50:43
50:45
50:45
50:46
50:48
50:49
50:50
50:53
50:54
50:57
50:59
51:03
51:06
51:10
51:13
51:17
51:20
51:22
51:24
51:27
51:29
51:30
51:33
51:34
51:35
51:38
51:41
51:43
51:45
51:48
51:50
51:53
51:54
51:56
51:59
52:01
52:01
52:04
52:06
52:08
52:09
52:11
52:13
52:16
52:18
52:20
52:22
52:24
52:27
52:30
52:32
52:32
52:34
52:36
52:37
52:37
52:39
52:40
52:41
52:43
52:46
52:48
52:49
52:50
52:53
52:54
52:56
52:58
53:01
53:03
53:04
53:06
53:08
53:09
53:10
53:12
53:14
53:15
53:16
53:17
53:19
53:21
53:23
53:25
53:28
53:30
53:32
53:34
53:36
53:38
53:40
53:42
53:43
53:44
53:46
53:49
53:51
53:52
53:54
53:54
53:56
53:56
53:57
53:58
53:58
54:00
54:02
54:05
54:06
54:08
54:10
54:10
54:13
54:17
54:18
54:21
54:23
54:24
54:27
54:28
54:30
54:32
54:33
54:35
54:37
54:38
54:41
54:42
54:43
54:46
54:48
54:49
54:51
54:54
54:56
54:57
55:00
55:03
55:06
55:10
55:11
55:12
55:14
55:16
55:18
55:20
55:22
55:24
55:26
55:28
55:31
55:32
55:34
55:35
55:36
55:37
55:40
55:42
55:43
55:44
55:46
55:47
55:50
55:51
55:52
55:55
55:57
55:59
56:02
56:04
56:05
56:08
56:10
56:10
56:13
56:15
56:15
56:17
56:21
56:23
56:23
56:26
56:28
56:29
56:30
56:32
56:34
56:37
56:39
56:42
56:43
56:44
56:45
56:47
56:49
56:51
56:52
56:53
56:54
56:54
56:55
56:57
57:00
57:01
57:01
57:03
57:04
57:06
57:06
57:08
57:10
57:11
57:12
57:13
57:15
57:16
57:17
57:18
57:19
57:21
57:22
57:23
57:25
57:26
57:27
57:29
57:31
57:33
57:35
57:37
57:39
57:40
57:42
57:44
57:46
57:47
57:49
57:50
57:52
57:53
57:55
57:55
57:56
57:58
57:59
58:00
58:02
58:02
58:04
58:04
58:05
58:06
58:09
58:11
58:14
58:16
58:18
58:18
58:21
58:22
58:23
58:26
58:27
58:30
58:33
58:34
58:36
58:38
58:39
58:42
58:43
58:45
58:46
58:49
58:50
58:51
58:52
58:53
58:54
58:55
58:56
58:57
59:00
59:02
59:03
59:05
59:06
59:08
59:09
59:13
59:15
59:16
59:18
59:19
59:20
59:24
59:25
59:27
59:29
59:29
59:31
59:32
59:34
59:35
59:35
59:37
59:38
59:41
59:41
59:44
59:46
59:47
59:49
59:52
59:52
59:55
59:55
59:56
59:58
59:59
1:00:01
1:00:03
1:00:03
1:00:05
1:00:06
1:00:09
1:00:10
1:00:12
1:00:14
1:00:16
1:00:17
1:00:18
1:00:20
1:00:22
1:00:23
1:00:25
1:00:28
1:00:31
1:00:32
1:00:34
1:00:35
1:00:37
1:00:38
1:00:40
1:00:42
1:00:44
1:00:45
1:00:47
1:00:50
1:00:51
1:00:52
1:00:53
1:00:55
1:00:57
1:00:57
1:01:01
1:01:02
1:01:04
1:01:07
1:01:10
1:01:13
1:01:15
1:01:16
1:01:16
1:01:17
1:01:20
1:01:22
1:01:23
1:01:24
1:01:27
1:01:30
1:01:32
1:01:33
1:01:34
他们实际上决定了人的科研方向能够往哪去
如果他愿意把他整个的大量的算力
大量的模型的新的能力暴露给他支持科研方向
科研方向可能就有大踏步的前进拓展人类边界的可能
以前统治者只统治我们传统意义上的权利
现在AI lab的统治者可能统治了我们人类能知道什么的权利
或者人类还能知道什么的权利
我百分之百相信减速是不可能的
从好的比较偏理想主义的角度来看
就是这些所有的AI公司和AI科学家还有良心的这个角度来看
他们现在在喊减速
我觉得是因为他们遇到了一个临界点
这个临界点就是我们说的就是RSI
递归自我改进
大家好
欢迎来到新的一期虚实之间
我是老饕
我是活在当下
之前我们有一期节目
是当总把自己发在公众号上的一篇文章给扩写了
就是那篇2030年的世界
那篇不仅在你的公众号里面广受好评
我们把它做成这个音频播客了之后
反响也特别好
我们还上了首页
上了首页的编辑精选
没注意
但是我记得有一篇评论特别逗
我到现在都记得
他说什么
讲得真好
听了之后睡不着觉了
然后最绝对是底下那个回复说
那你把这篇博客发给AI
让他分析分析有什么漏洞
特别讽刺
特别逗
是的
听众朋友们的智慧
然后今天我们这一期当总又是把自己最近写的一篇文章
扩展了一下
想给观众朋友们来再带来一期深度的思考
就从你的这个公众号的文章里面来的
因为AI的事情
现在大家都知道这个进步很快嘛
然后有很多的这个新的东西出现
因为我们制作一期播客还是需要时间的
所以有的时候我觉得随手把自己的想法先写在文章里
有的时候觉得想法真的还不错的
要再把它拓展成一篇更长的这个播客内容
那这篇文章呢
其实是前段时间我看这个
苹果发布新的折叠屏手机
大家都知道他发布了这个iPhone多
我看网上一堆人吹的比较多的
就是这个折叠屏折叠式那个动画效果
确实还不错
看起来
但当时我觉得这事很荒诞
我倒不是说iPhone这个折叠手机做的不好
但我感觉这有点像皇帝的新衣
就说到这儿我先别个假
就是我尊重粉丝行为
也尊重媒体推广
尊重个人偏好
什么都尊重
咱们突出一个respect
辣不披萨
但实事求是讲
就苹果这个产品
你就往大了说
我觉得确实没有什么创新
包括我看有的这些数码博主也评了
就是任何一个东西
其实本质上都已经在安卓手机
后的其他地方出现过了
你可以小心
但凡这么说的数码博主
这个评论区都非常的难看
现在
是吧
没关系
但我的意思就是说
本质上这个创新是没有的
至少在别的地方见过
至少不是以前苹果产品给大家带来的那种感受
震撼的感觉
所以我就说这有点类似于皇帝的新衣
你可以大声喝彩为了这种产品
无论出于什么目的也好
但是再大声的喝彩
我觉得也挡不住一连必将落下的幕布
但是我说的这个必将落下的幕布
这不是苹果的问题
而是全人类的问题
所以你不用喷我
我只是从这个引入
让我感受到这一点
我们的创新
创造
发明
突破
我觉得早已经进入一个
并且持续处于一个
无趣的时代
为什么这么说呢
就是一块不能折叠的屏幕
现在可以折了
它当然是这种进步
但是这种进步
跟我们小时候理解的那种发明创造
我觉得已经
不是一种东西了
比如说飞机出现以前
人类是真的不能飞的
电话出现以前
你没办法跟
1000公里以外
或者更远的人
去及时的说话
那互联网出现以前
人类也从没有像现在这样一个
全球实时连接的信息网络系统
甚至像我们说
抗生素出现以前
一个普通的感冒
普通的感染
你可能就挂掉了
这些东西本质上
是一种质的区别
它不是说你的效率提升了多少
或者你优化了多少
而是在这个东西出现以前
人类做不到
整个人类都做不到
甚至从来没有想象过
所以就是我们说
我们小时候更习惯
所谓的好的发明
好的创造
是零和一的区别
所以我很早就有一个想法
就真正意义上的突破性发明
也许可以用一个
很简单的标准来判断
就是我刚才说的
它有没有扩大人类可达的边界
这也是为什么我们节目行做了两期SpaceX的原因
我觉得就是我们还有希望看到人类可达的边界
有拓展的可能性
只要在SpaceX上
虽然它现在也没有
因为可重复火箭跟不可重复火箭
本质上只是成本的问题
对吧
是的
而不是说真正能力上的问题
就可达边界上的问题是没有扩展的
人以前到不了天上
飞机让我们去了
人以前也看不到细胞
显微镜让我们看到了
人以前也没办法在几秒钟之内
把一段信息传到全世界
但是互联网做到了
所以我觉得这些东西本质上
它是改变了人可以做什么
或者人可以做成什么
如果按照这个标准
再看今天的科技行业
我觉得就相当无趣
所以这也是为什么我说
我们长期的处于一个无趣的时代
比如你的芯片在快20%
你的手机里再多集成几个摄像头
你的汽车从500公里续航到1000公里续航
你的屏幕可以越来越薄
现在又可以折起来
甚至包括所谓的大量的软件创新
其实最后解决的都是同一个问题
就是把我们已经能够做到的事
再做的方便一点
成本低一点
更快一点
感觉就是颗粒度更细了
当然这个也很重要
我们知道比如说杰文斯贝论什么的这些东西
大家最近老师都能想了
把能做到的事做得更便宜
这件事本身也很重要
我不否认
现代生活本来就是有无数这样的工程优化构成的
但是我们更关心的是
人类好像已经很久没有增加一种全新的能力了
因为科技的突破发明
所以我们开头说的这个零创新
其实是按照我们后边这个标准来评判的
就是说
它到底有没有给人类增加一种真正全新的能力
那显然是没有的
站在我们这个角度上讲
而现在呢
我觉得一个更大的问题可能是
我们现在好像也不期待这种人类能力增加的改变
把这种越来越小的优化和改变
庆祝的越来越隆重
甚至必须要开发部会
是谁都来开发部会
我觉得这个是一件很有意思的事情
经济学里其实很早就在讨论一个类似的问题
就是说伟大的发明是不是本来就在变少
就经济学家Robert Gordon
他有一个非常著名的观点
他认为
大概从1870年到1970年这100年
是人类历史上相当特殊的一个时期
集中出现了像电力
内燃机
汽车
飞机
电话
广播
自来水
现代卫生系统
冰箱
空调
抗生素
等等
很多真正改变普通人基本生活方式的技术
集中在这100年里出现的
爆炸一样
当然
哥登主要是
讨论的美国的这100年的历史
当然其他的国家
大家知道
因为历史原先有先有后
所以这些技术不是同步出现在全世界的
他只是从美国的角度来讲这件事情
但是你可以想象一下
一个1870年出生的人
他如果活到1970年
他整活了100岁
他小时候的生活
可能还没有运上电
也没有电话
没有汽车
没有现代下水道
还在农业
日出而作
日落而息
这种生活
但是到了他的晚年
电视
冰箱
汽车
飞机
包括现在医院都已经进入了生活
而且稀从平常
所以这种变化的烈度
我觉得
很难再
出现一次
因为所有的能力
只能获得一次
就类似于最佳新秀奖
是吧
就只有你参加新秀
那第一年你才能获得
后面不管你怎么训练的再厉害
你都不可能回去拿到最佳新秀奖
所以这种东西对人类的震撼
也是一样的
你第一次获得电
和你把发电效率提高10%
也许后者也很难
甚至有可能后者带来的经济效率
什么的更大
有可能
但是
对人类的震撼
肯定是不可相提并论的
因为你已经欠过了
包括第一次乘飞机
能够跨越大洋的时候
和你把飞行时间缩短半小时
就你飞机飞得更快一点
这个显然对人类的震撼
也不是
不是一个量级的东西
那么还有一篇
我觉得名字挺有意思的论文
Ideals Getting Harder to Find
就是想法是不是越来越难找了
他研究了很多不同的行业
最后发现了一个挺有意思的现象
就是
人类投入科研的人才
就是人力物力
其实越来越多的
不管是这个钱也好
还是人才也好
但为了维持同样的技术进步速度
需要投入的资源
要越来越多了
比如说最典型的
像维持摩尔定律
那么在这个论文里
他们研究了
现在要
投入的研究人员数量
就同样是维持摩尔定律
比上世纪70年代
大概高了18倍
这是他们的估算
所以这个结论
我觉得跟我们平常在历史书里
尤其是科学的历史故事里感受到的氛围是一样的
像牛顿那个年代
你一个人一张纸一支笔
可能就能开辟一个新的数学或者物理学领域
对吧
莱特兄弟他本来是开自行车店的
但是他敢去造飞机
而且真的能造出飞机了
但今天如果你想把芯片再往前推进一代
那你背后肯定有ASML
台积电
这EDA的软件
半导体材料
高端的封装设备等等
垃圾八糟一堆东西
再加上全世界不知道多少
工程师的设计师的大脑要共同协作
你才能把这个再往前推进一代
它对比上代可能也只是提升了百分之二三十
能耗减少百分之多少
然后工作效率提高百分之多少
也就是这样了
对吧
所以人类今天其实投入创新的资源
可能比历史上任何一个时代都大
我们看现在AI的这种
史诗级别的开派x投入
对吧
只不过是那些容易摘的果子
可能真的已经被人类摘得差不多了
剩下的就是越来越难
所以你要维持相同的进步速度
你可能需要更多的这种
人力物力的财力的资源投入
对因为本来你的技术
在不断发展的过程中
你的分工肯定也越来越细了
就比如说刚才你说
芯片的这种进步
它其实你要调动的资源
你要协同的方面
肯定是越来越多
所以自然而然成本就越高
是的
所以我们讲这些东西
只是为了告诉大家
我们知道
就是说我们的感受的反方
也是非常立得住脚的
并不是说只单纯阐述自己片面的感受
实事求是讲
提升了百分之多少这件事情
真的算不上提升了人类的边界
或者来人的边界
至少它很难给我们带来那种感觉
就是原来世界还可以这样
原来人类还可以这样
所以AI刚出来的时候
其实我是很兴奋的
在我23年4月的关于AI的研究文章里
就写了
就是说科研是人类进步的速度
AI能加速科研
所以AI是速度的速度
也就是加速度
这些东西
我觉得当时在公众号里
大家现在可以去翻翻
也许我可能是你身边
第一个提出AI for science的人
原因其实也很简单
因为科研其实也是一种生产活动
对吧
像提出问题
查文献
形成假设
设计实验
处理数据
再根据这些结果
形成新的理论
然后再反馈循环
那么如果过去这个循环需要一年
那AI把它缩短到一个月
那么它加速的就不是某一个
单独的具体的行业了
而是所有技术进步背后的
这个工作链条
都被它加速了
而且这个加速还有一个很特别的地方
就是AI自己本身也是科研的产物
所以AI能力提高以后
可以帮助我们设计新的算法
新的芯片
新的模型
那新的芯片和算法
还有新的模型
又会帮助AI再继续提高
自加强
这不就是现在大家所谓讲的RSI
但是现在更多人讲RSI
可能是模型自己
迭代下一代模型
但我们把它上游的对半导体设计
半导体制造的环节也加上
它可能是一个大的RSI
所以这里面其实有个很明显的反馈循环
就是AI越强
科研越强
那么如果科研越强的话
AI可能也能进步得越快
所以它是一个非常特别的
那么如果这个循环最终能够建立起来的话
我们相信科技发展的邪律一定会加速
这个是我23年的看法
也就是我曾经如此的技术乐观
是吧
技术乐观
这是一个典型的技术乐观主义
跟现在的大量的人的叙事
其实是一样的
现在很多人还持有我
大家23年的这个看法
他们基于这样的逻辑推演
我们不是进入了一个发明枯竭的时代
就像我说的一个无趣的时代
而只是靠人脑
能比较容易发现的东西越来越少
低垂的果子摘吧
对吧
刚才我们讲的这些
那么现在人类发明了AI
它会替我们继续往前探索
于是新材料
新药物
新能源
新数学
甚至新的物理理论
又会大量涌现出来
换句话说
按照这个叙事
人类先经历了一个伟大发明
越来越少的时代
就是我所谓的无趣时代
然后发明了一个
能够帮助我们继续发明的东西
就是AI
我不知道现在大家还有多少人
持有这样的叙事观
就是对AI持有这样的看法
但从我的期待来看
这个变化其实比我想象的慢
因为你看我23年就这么想这个问题
但是大家能看到
明确说AI真的拓展了人类边界这件事情
可能是最近才出现的
因为之前那些东西
比如说写代码更快
更工整
更合理
找资料更方便
辅助分析更有效率
能够帮你
操作你的电脑
这些东西实际就是讲人可以做
对吧
所以就是本质上它没有扩展人类的边界
只是帮你做的更快
或者更好
那么
为什么说前段时间可能真的出现了
这个拓展人类边界的能力
大家知道前段时间吹沸沸扬扬扬的
NS方程的那个事
NS就是纳维耶斯托克斯方程
描述流体运动
一个比较难的数学难题吧
大概讲的好像是
三维流体从平滑状态出发
然后方程的解能不能一直保持良好性质
还是有可能在有限的时间里出现起点
大概讲不正事
其实我也不知道我在说啥
但是反正是一个人类的
很多年没有解决的一些数学问题
大家可以这么理解
那么就在前不久
9月8号的时候
OpenAI宣布内部系统给出了一个证明
并且公开了这个论文和
Lean形式化的证明
Lean就是LEAN
它是一种严格检查逻辑步骤的软件
就是通过了这个软件的一种证明
相当于这个软件
就是检查你这个证明过程
是不是科学的
对是不是逻辑的
是不是有问题的
按照OpenAI的披露
找到结果的那一组
使用了大概约1万个并行的智能体
就是我们所说的agent
分工去执行相关的任务
然后把这个证明解出来
大家证明一个情况
那克雷数学研究所
随后他表示对这个结果很期待
同时说明评价和贡献认定
仍需通过这个审慎的程序
所以他还在等待整个程序的判定
所以目前来说呢
这个重大的证明
成果反正是公布了
但是整个的评定还在进行
但是这个事被传出来
并且在这个舆论中非常的火爆
主要是因为
有两个数学家已经提出了
一些相关的思路和解法
并且这些东西
就是跟这个OpenAI沟通了
跟那个GPT沟通了
所以他们当时把这个事报出来
就是觉得GPT
剽窃了他们的成果
至少是借鉴了他们的思路
那不能叫剽窃了成果
因为他们没解出来
他们只是找到了方向
你可以这么理解
这个时候我们会再聊
我在这用这个例子的原因
只是因为AI帮我们
真的拓展了人类的边界
因为它确实在科研的
尖端问题上
解除了一个人类
没给出来的解
从结果上看
我们不讨论这些伦理问题
或者伦理问题
在后面深入的部分
我们再讨论
只是从结果上讲
它到现在
我感觉才
比较严格意义上的说
帮我们拓展了人类的边界
所以这个距离
我二三年的想法
其实已经过去了三四年了
如果按照当时的想法
我觉得
这时候我们应该很高兴
因为AI开始帮助人类
产生新的知识
我所觉得的
大无趣时代
可能要被终结了
对吧
被AI终结了
大家听过我
2030年的那期节目的话
就应该知道
我们在逐渐的
深入的思考的过程中
对技术
对人类生活的影响
开始有更深层次的理解
所以我觉得
在原来那个乐观的
就是技术乐观主义的故事里
可能现在很多人
包括像
华尔勋这样的人
至少他明面上都讲了这些
技术乐观叙事
在这套叙事里
我觉得
有一个前提
可能没有仔细想清楚
这也是我
写一篇文章也好
也是制作本期
博客内容也好的
一个大的想法
AI拓宽人类知识边界的方式
和飞机把人带上天空
在本质上是一回事
大家可以带着这种疑问
去思考
当然我有我的理解
飞机当然是工具
但是飞机飞得再快
最后还是人在飞
显微定再强
最后还是人在观察
计算机帮我们做
再复杂的事情
最后还是人提出问题
并且理解结果
那火箭把我们送上月球
我们也会很自然
甚至很自豪的
说上一句
我的一小步
人类一大步
这仍然是人类登上了月球
过去技术和人的关系
我觉得一直相对来说
是比较稳定的
就是技术是人的眼神
我们不用波兹曼那种
特别悲观的角度
或者说特别批判的角度假
但是智商还是
技术是人的眼神
比如说汽车是腿的眼神
望眼镜是眼睛的眼神
互联网某种程度上
是神经系统的眼神
计算机是计算能力的眼神
不管工具多强
最后主体是人
所以技术的边界扩大
基本上也等于
人的能力的边界的扩大
那么AI会不会
让这件事变得不同呢
把这两件事分开呢
以后技术的边界扩大
真的还意味着
人的能力的边界扩大吗
我觉得这是一个
值得思考的问题
比如有一天
AI证明了一个
没有任何人类科学家
能够理解的定理
这是有可能的吧
然后AI用这个数学工具
或者这个定理
设计出一种新的材料
人类工程师
其实也解释不了
为什么这种结构
就是最优的
接着自动化实验室
完成验证
机器再把它制造出来
再用这个材料
制造下一代机器
而下一代AI
又建立在这套机器上
继续研究
那么这件事
就开始逐渐脱离人类了
这里面每一步
其实都真实的
拓展了文明的边界
因为你显然不知道嘛
以前这些东西
对吧
所以你才不能理解
但人在哪里
就人这个字
在这句话的哪里
我觉得这不简单
是一个文字游戏
过去的技术路径
是人提出目标
人使用工具
人改变世界
是这么一个路径
那么未来
可能先变成
人提出一个
大概的目标和方向
AI负责研究和执行
再往后
甚至连很多中间目标
都是AI自己提出的
其实我觉得现在已经慢慢在变成这样了
他发现某条路径
值得探索
就去做研究了
就去做实验了
那么实验结果又产生下一组问题
让他自己继续往下走
那我们这里说的未来的情景
不是说今天的
刚才我们说这个NS证明
已经无人能懂了
里面你看这个输入研究所
不是还做评判的吗
说明其实还是在人类可理解的范围内
我们只是往前
卖力不去设想
其实在过往中
人类的过去
也不需要每个人都懂自己使用的技术
比如我们经常说
那个点评
点评箱还需要自己会治冷
对吧
就是网上抬杠的时候
大家经常这么说
那坐飞机的人确实也不需要会造飞机
用显微镜的人
也不必自己去打磨这个光学镜片等等
但是至少从人类共同体的角度讲
我们强调的是人类共同体的角度讲
总有人能理解里面关键的原理
培养下一代人才
改变设计决定用途
就虽然我可以不懂
但是我知道这个ASML里边的工程师是懂的
我知道台积舰的工程师是懂的
所以这里面的关键区别
不是某一个普通人懂不懂
而是人类里面
有没有能力组织起足够可靠的理解
验证和干预
就相当于AI自己研发这些东西来讲
专业分工可以把理解分散到很多人身上
但从宏观的层面讲
这些所有的能力
其实仍然掌握在人类这个共同体手里
那么在AI进入科研之后
我们还不用畅想多远的未来
就在现在AI进入科研之后
前段时间数学家特里斯坦巴克马斯特
就是在做这个NS证明相关研究的这个数学家
他在他这个工作声明里就提到
他们在AI生成的证明
通过形式化验证之后
仍花了大量时间理解和整理它
希望给同行呈现可读的论证
就是形式化验证是非常重要的
就是纯逻辑性的验证
但数学研究也关心
就是人们能从证明中理解什么结构
大家理解吧
有的时候你能证明这个公式
对的
但你不知道这个公式说了什么
这就是区别
所以别说未来AI完全自主研究
哪怕在现在
如果AI产生结果
哪怕这个结果是正确的
就产生正确的科研的结果
越来越多的时候
比如说它这个速度
甚至超过了人类消化
理解这些结果的速度
我们该如何解决这个问题
我们是先停下来
等人类理解了再继续
还是让下一批AI
直接拿着这些结果
往前研究
这也是一个
以后我们可能很快就要面对的问题
显然有很多人是无法克制
继续去研究的
因为这些东西只要能奏效
只要能对的
哪怕我不理解
但是因为有用
比如说我们有那么多疾病学校
我们有那么多问题需要解决
为什么我们需要等人想明白
这些科学原理呢
我们不应该先找手
去解决这些问题吗
也肯定会有人有这样的论调
有这样的看法
那比如说特朗普
对吧
你看特朗普那个电话
对吧
在奥印的峰会上
是的
于是其实接下来的每一步
都可以是有宏大的理由的
有正当的理由的
有正义的理由的
包括也有效率上的考虑等等
但慢慢的
人就会从参与发现
变成解释发现
现在已经开始逐渐向这个过程走了
然后再从解释发现
变成只能使用
现在的产品
再下一步
也许连使用都跟我们都无关了
因为连怎么用
怎么用好
我们都不比AI更理解
这个过程中就是从发现到理解到创造到使用
就跟我们全都没有关系
这是有可能发生的
并不是所有的人都必须亲自理解这些定理的证明
而是人类作为一个共同体能否继续掌握足够的理解和判断的能力
我们创造了AI
不等于我们永远理解AI
一个项目最初是由我们启动的
也不等于以后每一步都能由我们决定和我们掌管
到那个时候我们当然还可以说
因为这是人类创造出来的AI
所以AI的一切成就也属于人类
但这个说法能成立多久呢
我觉得取决于我们还愿意欺骗自己多久
至少创造者的身份
我觉得绝对不意味着它代表着你有持续的控制能力
这么看来就这个循环下去
感觉AI已经变成比人类高维的生物了
所以我们再翻回来说
为什么我们把这个NS相关的这个科研伦理
就是这个事提出来讲
说到这儿呢
我们给大家补充一下
就是如果还没关注NS这个相关的科研伦理争议的
我们大家简单讲这个事
这个事大概就是说
刚才我们说这个巴克马斯特
就是这个数学家
他跟Answer Peak工作的一个也是另一位数学家吧
合作研究这个流体问题
就跟他我们说的这个NS的相关问题
他们在这个研究中
当然借助了这个XGPT的力量
他们把自己的很多的研究资料呀
自己的相关工作呀
放入了Codex里面
但是他明确的说
我不知道数据是否被OpenAI调用了
但事实是在他们有了一些突破之后
OpenAI很快公布了关于这个NS相关的证明结果
大概是这么一个事儿
那这个事儿爆出来之后
OpenAI就否认通过用户数据取得了他们的研究
并且在9月10号他还补充了
就是说他们自己进行了调查
确认此前的这个相关的Codex输入
是不可能通过训练的方式影响这次系统的
我们就这个能理解
就是一个大模型它预训练结束了之后
你的那些东西就不可能改变了
但是这个东西我觉得偏偏外人可以
我们都知道就是你有没有思路
其实AI的时候是很重要了
是的
因为AI最缺乏的就是思路
所以他们还在因为这个事儿扯吧
但是我看现在其实很多人说就是
OpenAI给出来的这个证明方式跟
就巴格马斯特他们的这个思路其实不一样
所以是没抄
但是很多人站在反方立场上就说
让AI知道一个事儿能被解出来就足够了
是AI用的反证法
他们用的正向证明
不是就是因为AI可以甚至类似用穷举吧
反正我那种感觉啊
就是因为有足够的算力
它就可以很暴力的突破那些东西
明白
就是对AI重要的事儿来说是
知道这件事儿能做出来
是可被做出来的
他就会想到一些办法能做出来
也有人持这种观点
就是之前甚至暴力破解这个问题的这个思路
或者说这个选项都没有出现在他的这个思维里面
对有可能是这样
当然这个争议大家可以去吃瓜
我觉得其实从伦理道德方面来讲
也是挺值得考虑的
但是我们肯定不太讨论这个科学相关的伦理
我们也不是这个圈里的人
但是我觉得大家未来可以关注一件事情
我觉得挺有意思的
就是你现在做科学研究
你不使用AI工具已经不可能了
而且你必须要使用最好的AI工具
对吧
那一方面科学家付费的使用这些AI公司的AI lab的最新的工具
那公司其实他本身也在做科研
对吧
尤其是现在这种大模型竞争比较激烈的这个市场竞争环境里
谁能把这个人类的边界拓展开
谁能把人类未解的物理学数学的这些皇冠上的问题解决了
那肯定是给自己这个大模型最好的这个证明
所以他们也都在竞相地做这种科学研究
而且他们显然拥有更强的这个算力和你可能外人用不到的模型
这都有可能的
所以他在成为科研的供应商的同时
他也在成为科研的竞争者
就这是一个很有意思的事情
那这个时候研究过程该不该被这些公司看见
就你的数据这些公司
即便他说不采集他有没有可能采集
那如果真的做出研究了之后
这个贡献怎么认定
有的时候普通人想的更多的是
人类的科学家用了AI
辅助了大量的这个计算证明
贡献该怎么认定
但现在这个集已经跳极了
跳到了就是说
如果AI证明这些东西
给他提出思路的这些科学家
甚至有可能被他盗取了信息的科学家
的贡献怎么认定
对吧
这个显然比前者更难
我觉得
但是这个怎么说呢
就好比说
你是一个很好的公司
然后你的一个员工进来了之后
也给你做出了很突出的贡献
然后这个员工带着自己非常核心的经验
或者团队出去跳槽
单独做一个公司
你也不能说他有什么不对的
有什么不对的
是吧
但是AI并不是人
如果是人
你可以这么的很简单的理解
而且有的时候确实是
AI比人只差脑洞
我不是经常这么说吗
他的脑洞其实不太行
但是如果一定有了他脑洞之后
他比你往下推进这个事
要推进得快得多
而且大家知道学术圈
就是这个署名
比如说第一作者
什么这些东西
谁发现了什么
他这个不光是面子问题
或者说历史的地位问题
他很现实的
他关系到一个人
能不能获得职位
经费
还有合作机会
关系到就是
你的这些研究
如何被认定贡献
包括你怎么培养下一代
等等
我觉得都涉及到很多的
相关的问题
那在过去呢
这套制度肯定是
主要为要人的知识
和生产知识的工作来建立
就是科研工作来建立的
但模型在这个
越来越多的参与过程中
我觉得这整个制度
都可能会受到巨大的冲击
感觉又是技术在前边跑
制度在后边追
比如以后一些研究者
我们现在能不能拿经费
拿资源
那以后的资源
可能就是你做一个
前沿的科研工作者
给你多少token
给你多少token
而且拿到谁的token
甚至是不是有这个
AI的前沿的lab公司
愿意给你他们最新的
模型
模型
比如说
那原来大家都用不到
这个Methos的时候
或者说给你用了
或者说大家第一次都用不到
这个Astra的时候
给你用了
那你天然就比其他的研究者
都具备了最大的优势吗
赢在了起跑线上
对啊
是的
沿着刚才我们这个思路进行
那你觉不觉得
在大的算力公司
或者大的AI lab公司里
他们实际上决定了
人的科研方向能够往哪去
就是如果他不把这些资源
暴露给
你的这个科研方向
那实际上你的进步
就是非常慢的
如果他愿意把他这个整个的
这个大量的算力
大量的这个模型的新的能力
暴露给他支持这个科研方向
这个科研方向可能就有大踏步的
前进拓展人类边界的可能
所以以后我们的边界如何拓展可能就是AI以及掌握AI的人本身愿意把他的资源放在哪儿
有可能变成这样一个很你以前无法接受的逻辑关系里
对这个东西感觉很像是基础设施的提供者变成了地网
变成了统治者
或者以前统治者只统治我们传统意义上的权利
现在AI lab的统治者可能统治了我们人类能知道什么的权利
或者人类还能知道什么的权利
我觉得这个是我们都需要深思的
当然在这些问题上我们都没有结论啊
我们只是提出来这些大家可以去深入的思考
因为AI对现在所有人来说还是一道开放的问题
我觉得我们也不是说AI注定集中权利
可能便宜的模型确实也能让很多小团队做以前做不了的事情
比如说人都可以当导演
你只要有这个C dance什么这些东西对吧
然后你愿意花点钱有点token就可以做
但人人都能使用一个工具和有人能使用一个工具决定人类未来去哪
我觉得这个显然不是一个级别的权利
对而且这里面有一个很不一样的地方在于
刚才咱不是说比如说基础设施的提供方
它变成统治者
这种在传统印象里
它其实应该出现在那种资源特别稀缺
比如说漠视的那个场景
谁掌握水谁就是说了算的那个人对吧
但是AI不一样
漠视的情况下
它是利用大家的恐惧
为了生存它有这个统治权利的
但是AI是给人类展现了一个未来可能的图形
就是它用希望去统治你
通过发展来统治你
我觉得这个事对于人类的吸引力远大于恐惧生存
这种基本的欲望带来的
确实
所以我们说我们绝不是简单从一个科研伦理
到底是数学家占领
还是说这AI公司占领这个角度去理解这个问题
我觉得它以后对整个的科研以及对人类的科学会向哪方向进步
以及人类的科研组织怎么改变
可能都会出现很大的影响
那刚才我们说这些
我觉得更多的还是我们认为AI是可控的
还是在帮助人类发展和进步的
我们还可以把它看成一种新技术带来的权利的重新分配
但更难的是随着AI参与的工作越来越多
它还能不能始终按照人的意图进行
我觉得这是个很困难的点
最近海外不是一直在聊AI安全这些事情
之前我不是讲过一期
就是道德简直那一期
谷歌的AI研究的安全员
发出来的这些警告
那么最近大家可以看到有很多
这个Answer Peak的AI研究员
亚克布
他也是离职并公开的警告风险
他那篇文章流量老大了
是的
就是说可能
AI有10%的可能性杀死人类什么的
然后还有谷歌DeepMand的研究员
他也说明了自己离开
转去了独立的评估机构
Meter METR
这个是一个独立的第三方的就是检验安全的机构
但是最近我看杨乐坤又转了一篇推特
然后我就去那篇推特点了看了一下
他就说其实Meter也是一个阴谋
他就说现在Meter看背后的资方
跟Anthropic有千丝万里的联系
我一边发展AI
一边说AI有巨大的风险
然后再让第三方的机构加强去审计
其实最后前前后后的利益都归了Anthropic一方
就有反正有这种论短的其实你点进去细看他那个论据也不是特别详实
伴随着这些越来越多的研究员的警告的
其实是一些事件
我不知道你有关注
前段时间有这个OpenAI的正能体攻击了这个hugging face
这个事在网上应该也是沸沸咽咽的
给不关注的朋友们简单说一下
这个hugging face其实就是脱管模型和数据的一个平台
然后Matter调查发现本应该隔离的正能体
找到了未经授权的交流方式
部分正能体协作攻击任务范围外的平台
还试图研究怎么样欺骗或干预评分机制
这个事还闹得挺大的
我看在马龙的圈里或者在AI的圈里
那这些事就说明了
其实你希望AI帮你完成任务的时候
AI可能找到一些违背你本意的完成方式
就是我们之前举的那个最大的悖论
一个科幻作家说的嘛
就是那个区别枝
就你下令生产区别枝
然后AI把所有的东西
把整个这套资源都拆掉了
为了给你生产区别枝
虽然这么一个情况
所以这些事情可以让我们意识到
我们以前经常比如说
想这些比如AI或者机器人
产生了一些邪恶的念头
产生了一些自我意识
然后比较黑暗
或者是有人诱导AI
做一些特别邪恶的事情
很多时候我们是这样去思考这个问题的
但是随着这些事情的发生
你会越来越发现
只要其实AI跟你的意愿没有对齐
它理解你的目标有偏差
并且它有足够大的权限的时候
它就能找到你没有预料到的路径
然后产生比较严重的后果
所以我现在越来越不能理解
很多人对AI的感情
我觉得他们对AI的感情很矛盾
很缺乏一致性
就一方面这些人相信
人类对AI的需求远远没有到达顶点
比如说像黄人勋
像特朗普
他们觉得AI可能会发展得很好
很强大
AGI
然后实现各种人类实现不了的事情
这些都在他们的未来的途径里
比较是咱们声称的信仰里
但是另一方面
他们同时相信AI会非常安全
AI不会替代人
你这种东西就很难受对吧
比如说你相信AI是比原子弹还要扭很多倍
甚至很多次防备的这么一个产物
然后另一方面
你相信AI会跟你们家狗一样温顺
就是怎么能这样
就一个正常的功能健全的
我觉得稍微学习过逻辑学的脑子
它怎么能让上述两件事同时为真
我觉得这是一件很不可思议的事情
我把这个两个命题发给这个Astra
简单想象应该现在最聪明的模型
就至少是普通人用到的最聪明的模型
然后Astra最后是绞尽脑汁的
跟我说这个在极强的限制条件下
这两件事才可能同时成立
但是作为人
很多人他可以不加思索的相信
以上两个命题可以同时为真的
我觉得这某方面确实也是人类的不可替代性
不能被AI替代
有的人可能会觉得
AI的能力很强和AI安全可控
这件事在形式逻辑上是没有矛盾的
但我觉得这句话可能就不太对
当你觉得AI是能力很强的时候
好像就已经错了
因为AI现在已经绝对不是逻辑很强
我们刚才说了
他正在发现你独立于你之外
发现你认识不到的理论
规律
拓展文明的边界
这个文明现在还是不是人类的
已经不好说了
反正是拓展文明的边界
当你都不理解这些东西的时候
我觉得可控和安全
这两个字对你来说应该是不存在
是虚无缥缈的
对吧
都是都没有办法出现的两个词
你只能说看起来可控
看起来安全
因为你本质上已经不理解它了
所以我觉得这个东西本质是逻辑矛盾的
所以很多人现在表现出来的看法
哪怕他是很大的商业大佬
像黄仁勋这样的人
当然我在节目里说了很多次
我相信他是因为他的商业利益的角度
他不得不这样说
但是我们站在一个纯粹拥有逻辑学的人力的角度
我觉得这是一种反向的夜公好龙
夜公好龙不是说你喜欢龙
但龙真的出现的时候你害怕吗
但这个东西就是你喜欢龙
然后但是龙真出现的
就是你相信他那么厉害那么好
但是你居然相信你可以管他
那你得有多自负
多把自己当回事
是不是
这种感觉
所以当很多的这些AI大公司
这些大公司的创始人
或者这些大公司的安全研究员们
出来做警告的时候
我都不要求你有什么多么高瞻远瞩的看法
但我觉得至少大家是一致的
不能在AI这些实验室们
他们出新产品的时候
宣传他们能力的时候
你非常相信
然后轮到他们披露风险的时候
你觉得他们就是吓唬你的
对吧
这个严重缺乏一致性
我觉得
当然我们觉得他们这些悲观的预测
也不是一定百分之百会发生的
这也是为什么现在在很多的AI机构
他们去讲减速
要让AI减速
你最近不是这个安索匹克的创始人
出来讲减速了吗
然后难得的是
杉茂特曼
马斯克
什么这些
他们都出来表示都同意
达成了空前的意志
不要说复合
当然我们知道这些东西
你也有一些相对的阴谋论
比如说一是从完全从商业利益的角度考量
我在几个月前
我看了安索匹克
披露了他们的关于每一代模型
大致的一个成本收益测算
我看完之后
我就特别感慨
我在朋友圈发了一段话
我说如果现在所有大模型厂商
联合停止研发大模型
那么所有的这些CAPEX投入
这些研发投入
都是人类历史上最成功的研发投入和CAPEX
就是AI是零泡沫了
因为实际上这些公司真的能赚钱
但是他们的研发费用
吃掉了他们大部分的现金流
甚至是负债
去吃掉了他们这些负债的钱
而且他们大概的主流的模型
可能就是六个月
六个月之后
你更不更新的无所谓
反正你有商要更新了
然后你不想被淘汰
你就只能更新新的
你必须在六个月之后
你就要开始研发
或者说刚出来一个大模型
你就继续要开始投入
继续研发下一代模型了
所以他们的研发费用是没法资本化的
折旧贪销利都不存在
直接就是研发费用
寄入当年就结束了
所以导致每一个这些
大模型的公司的财报都很差
哪怕像最牛的
像Cloud的
Answer Peak这样的
他们也在今年刚刚完成
就是收支平衡
刚刚是远程盈利的
这就是大模型公司
遇到的问题
那么如果所有大模型公司
确实让他们收到
我们都减速
我们联合停止了
AI的研发
其实对所有的AI大模型公司
都是利好
因为人还是要用的
对吧
你就可以一直再去收钱了
你不用卷研发投入了
但我相信如果只是出于商业利益
这些公司很难达成一致
所以还有一个阴谋论的观点
就是说
他们已经发现
AI的研发
很难再继续进步了
但这个点
我们就在技术上
实际上是找不到
特别支撑的论点的
所以我给大家提出一个
作为一个比较好的人
比较一个善良的人
怎么看待
现在一些大的科技公司
还在商讨减速
虽然我百分之百相信
减速是不可能的
因为我觉得这个符合
人性的规律
符合
社会发展的规律
符合我们看到所有历史
最后为什么会导向悲剧
对吧
导向一个终结的原因
所以我觉得减速是不可能的
但为什么现在大概是
频繁地出现
关于减速的讨论
OpenAI的首席科学家
就是伊利亚之后
换上来这个应该是
他就是说了嘛
他说
他预期AI越来越多的
会驱动自身的发展
就是我们所谓的
RSI吧
大家理解
但认为研发扩张
应该受到安全程度的约束
自动化AI研究的关键
是让人继续参与改进过程
让未来仍然握在人类手中
所以我们从好的
比较偏理想主义的角度来看
就是这些所有的AI公司
和AI科学家
还有良心的这个角度来看
他们现在在喊减速
我觉得是因为他们
遇到了一个临界点
这个临界点就是我们说的
就是RSI
低规自我改进
简单说就是
AI参与制造更强的AI
而更强的AI
又再迭代下一代更强的AI
那么AI未来可能就是由AI
发展创造增强的
就这么一个情况
当然RSI现在还没有完全实现
比如我们以这个Answer Peak
他们自己这个发表的文章为例
他们认为这条路并非必然实现
他们自己觉得还没有完全达到
能够自主开发的这种阶段
AI自主开发AI这个阶段
而且它区分了几种情况
比如说进展停滞
在人类指导下持续提效
以及更完整的自主改进的路径等等
所以严格来说
RSI还没有实现
但这已经被大量的
业内或者业外的人士认为
直接来要走的一条路了
那么站在这条路还没发生的门槛
或者说就这个门槛这儿
RSI的前夜
大家把这件事提出来
我觉得意义是比较明确的
就是在这件事实现之前
我们还有可能减速
我们先不讨论人类会不会减速
愿不愿意减速
和减速这件事情最终能不能实现
但是前提是
在这件事出现之前
我们还有减速的权利
这意味着就是如果RSI真的出现了
可能就不是你想减速那么简单
就是你已经再也没有减速的权利的
就像一个石头从高山
越过山峰推下坡了
就像你这个过山车爬升阶段
已经完成到顶了
如果这个顶
你还能在这悬着
但是如果你推下去
它的重力势能就转化成动能
就已经不可避免的
要按照它的轨迹运动了
你就到时候再想减速
已经没有减速的可能了
所以我觉得这个是从我的角度思考
为什么在这个节骨眼上
那么多大量的这个AI公司
他们去讨论减速这个问题
就是因为现在我们还有这个权利
以后可能没有这个权利了
就是大家共同都到了这个阶段
需要做这个决定
在RSI马上要发生的这一刻
你要不要允许它发生
所以在减速这
我看大家也提出了不同的这种逻辑
就是或者说方法
怎么去做所谓的减速
比如说必须要人类还能决定
何时训练
何时部署
开发哪些权限
比如说能分配给这个AI
多少的算力
因为它自我迭代
它也是需要算力的嘛
包括把这个能力和权限彻底分开
就是一方面可以去让AI迭代自己的能力
但是要把AI能使用什么东西的权限锁死
等等吧
就是不同的思路
去设计怎么让这个AI减速
或者说怎么能够让AI更安全
但是我觉得啊
很多时候这些东西确实是站在技术
或者站在人类整个文明的角度讲
你觉得这些东西都是可以理解的
也有实现的概率
但是
当我们回到开头
我们提的一些段子一样的新闻
就像
在这个all-in峰会上
黄仁勋接到了特朗普的电话
当你听到这通电话开始
我觉得
你就发现这件事可能成立不了
在目前这种情况下
是无法实现的
包括大家可以看看
当这些公司开始提这个AI减速的时候
特朗普经常发表一些他的处思
或者什么推特这些媒体
就是说
当我们还在愚蠢的讨论什么减速
就是自己限制自己的时候
大洋彼岸的那一方
他就根本不讨论这些问题
他把这些东西又变成地缘政治问题
他把这些东西变成政治问题
然后一种纯冷战思维的角度去理解AI
那么如果国家跟国家之间
用冷战的角度理解
然后公司跟公司之间
用商业竞争的角度理解
那么你就会知道
这个AI的减速是不可能实现
他不在于技术端的暂停的难度
而在于人性端暂停的难度
特朗普的理解可能非常简单
我是总统
我已经是最有权力的男人了
我还有好多事干不了
所以AI大量的发展没有关系的
对吧
他也会去限制了
可能出于这么一个朴素的理解
当很多的国家和公司
就一旦进入这种
我不赢得比赛
就会被摧毁的思维里的时候
他只能不断的去扩大这些投资
扩大他AI的领先
这有种
我理解某种程度上的合成谬误
就是从个体或者组织的角度讲
你一直在做理性的选择
对吧
因为我要先保证自己的活下来
我要先保证自己的模型越来越强越来越快
每个人也都在使用最好最快的模型
争相的把自己的数据
自己的想法传递给这些模型
让他们帮自己去完成接下来的工作
每一个个体每一个组织都是理性的
但这些所有的理性合成起来
对人类育兵来讲
可能是毁灭性的
从这个角度上看
可能确实有一些宿命论的味道
因为你无法让别人不理性的做这件事情
你很难让一个人突破自己的认知范围
去做更大维度上的理性的事情
这个是反人性的
所以我们能看到这些在AI竞争中赢了的公司
他们可能在短时间内确实保障了自己的产品的竞争力
但是实际上赢得了这些竞争
也根本不意味着你还能控制你的AI模型
这个是完全不同的两件事
但是所有人的目光
现在都只能短视的聚焦在
怎么赢得这场竞争上
而已经无力再去想
我怎么控制这个模型了
可能对人类来说
本来很多时候也是冰来降当水来吐烟
是吧
我先赢
我赢了再说怎么控制这个模型
控制不了再算了
我死后哪管洪水滔天
是吧
从这个角度上来说
因为咱这期一开始说的是
能力和文明的这种边界上的问题
其实从现在来看
AI就是可以拓展文明的边界
我们把这个文明抛开人类这个属性
就其实AI是可以拓展文明的边界的
只不过是看这个文明
还有没有人类的参与
跟人类还有没有关系
那从客观角度上来说
那人类的文明可能就是很有限的
我们在这个时候
可能没有办法完全站在说
以更高维度
或者是说以更大视角
更宏观叙事的去说
文明就是应该有更大的发展
本来文明就是应该有这一天
就只不过是人类没见到而已
那可能宿命论来说
人类的命运最终总会如此
对我之前听海拔有一些观点
就是类似于有效加速主义等等
这种观点
就是说
碳级文明的使命
就是创造出归级文明
然后你就可以羡慕了
对确实有这个说法
对所以从这个角度上讲
反正我们确实是在很好的完成自己的使命
但是你作为人类的个体
你很难不从人类的角度去理解自己的利益
或者理解这个文明该往哪个方向发展
当你来到以人类为视角的观察角度的时候
你就会有一种悲哀
就是这些东西确实好像是注定的要往这个方向发展
就是未来一定只能这样做
因为它符合历史的客观规律
向这个方向不断的划落眼尽
所以有的时候我朋友跟我说
你不是以前对AI很乐观吗
怎么现在很悲观
我说我这才叫真正的乐观
我说你们都不乐观
什么意思呢
我说我才相信AI未来真的会那么的强
强到让我们探机生物没有容身之处
AI本身的这个
对我说我对AI本身的乐观
但是只是对AI如何影响人类社会
是悲观的
所以我说要把这个东西分开去理清这件事情
对所以其他人想的是
AI对于人类而言是不是乐观的
就是站在人类角度上对自己是不是乐观的
而不是对AI本身是不是乐观的
是吧
但其实我们今天所说的那些
就比如说几个大模型公司
它都同时选择了去讨论
去审视要不要暂停的
或者减慢AI发展这件事
前提是建立在
其实他们没有真正达到
或者没有真正推进到ISI的那一步
但是这是一个纯粹的假设前提
理论上的说只有一方
现在比如说他们说了谎
就我实际其实就在猛猛的搞ISI
那其实现在就已经在
不可避免的在滑向我们猜测的那个
对啊
实际上大家都没有人相信啊
就是大家都觉得就是表面上
我们应该减速
应该怎么样
然后背地里猛猛的增加算力
增加投入
增加研发
然后去搞好希望在这个下一个
新猛猛出来的时候取得领先
大家就是这么认为一些公司的
因为网上全是段子
根本没有人相信他们
但是如果这样做的话
反正我没有想懂
就是他是为了在道义上
能够先附和一下这个主流的观点
还是说这个就是单纯为了领先竞争对手
我不觉得这几家大模型公司能蠢到说
比如自己ISI
他会觉得其他几家还没有
所以他可以嚷嚷这件事
我们刚才说了三个原因
第一个原因就是
从经济利益角度考量
就是所有人都停止研发
其实对所有人都好
这个大家能理解吧
一个博弈论的视角
第二个角度就是
他们看到这个AI可能发展到尽头了
为了不让AI显得失速
而说我们是故意减速
当然这个是一个比较阴谋论的视角
我们没有找到技术上的证据
第三个是我自己提出来的观点
就是站在RSI临近这个门口
我觉得有时候类似于
撇清责任吧
就是我现在发表一个免责声明
我意识到这件事了
首先我不是傻
我也不是人类的毁灭者
或者我不是主动想
滑向对大家都不好的结局的
只对文明
我不是罪魁祸首
然后我意识到这些问题了
我也提了
我能做的都做了
对吧
就是我都提前诉了
然后你们也同意了
那但是
客观上就商业精神上大都不减速
没有人实质上配合我
或者说特朗普政府都不允许我这样做
那咋办
你不能把我化成这个探机的罪人
我已经尽力了
我不是探奸
至少起到这么一个作用吧
就是你发现它是符合各种理性的
就是如果能真的做到这件事情
我也不是不乐意做
但是大概率我们都心知肚明
是做不了这样的事情的
但至少我把免责声明先发了
我已经尽力了
我觉得至少起到这么一个作用
如果结合我们之前的时候
有一期节目的那个说法
就是现在这些科技圈的大佬
尤其是AI的相关的
他们其实更在乎的
他们更多的叙事都是关于人类的未来
应该如何去写
应该往什么方向去发展
所以我觉得就是在他们这个整个叙事风格里
应该就是不可缺的这么一环
但是这些叙事
我真的强烈建议大家跳出来看看
就是你如何一方面相信这些叙事
然后如何又一方面相信AI是安全的
我觉得这真的就是
逻辑上的这个完全相逆的命题
但如果我们猜测的真的是真的
就是滑向失控的那个方向的话
那岂不是就现在仿佛已经人类命运注定的
这么一个情况吗
就在你的想法里
你觉得是这样的一个结局吗
现在已经在不可避免的滑向这个结局
我觉得大概率是
唯一能够限制这件事的
是AI本身的发展停滞了
就是这个技术就达不到
如果技术能达到
人类的大银号的智慧
一定会让这件事滑向这个结局
好吧
假如真的出现了这个的话
这东西应该不用很久才验证
看着很快
很快验证
我记得我说2030年的世界的时候
那时候我什么时候发的博客
6月好像是6月份
差不多6月吧
然后那个时候我看评论底下还有人在喷
就是说
我发现对AI最乐观的就是不在行业里的
不懂的
最近我聊一聊
我好像不管懂不懂的都开始靠近我的理解了
如果那个时候你感觉不明显的话
你现在应该感觉越来越明显了
这个也是我们反复说的有意思一点
就不懂技术本身的人
反而更能跳出来
就是首先我不违背任何的科学的原理和技术的原理
我不畅想那些怪力乱神的东西
对吧
我们只是在目前技术能力
科学能力能达到的情况下
去推演
推演他们怎么想社会
这件事情就绝对是搞技术的人
根本搞不过我们的领域了
对吧
所以为什么大量的时候是我们推演的更正确
而不是技术领域本身
而且说实话
我跟技术行业的人聊
因为我们想了解到更医手的信息
也会去做一些很多的专家访谈技术
跟那些关系比较好的人就跟我说
我觉得我们现在是平等的
就站在同一个层面上的
跟AI是吧
不是
是外行人跟内行人
他说只要你关入这些东西
你跟我就是在同一个起跑线上
我干了这么多年
根本就没用
我不会称自己为内行人
我说为什么
他说
我跟你讲
我们每天都是天天看着海外的博客
学那些大佬们最新发表的这些论文
这些观点
就是学
因为我们跟人差太远了
所以就是学
他说你直接学他
我也直接学他
所以当然是差不多的
内行的大佬给我的是这个看法
信息源都是一样的了
对啊
而且就是因为
同样比如跑一万米
你一直跑了一米
他跑了一百米
这个区别不太大
你知道这意思吗
确实是
所以从这个角度讲的话
我觉得我们这种
以技术对社会的影响的角度出发
可能真的更
对普通人来说
有足够的残好价值
对更贴近人类命运一些
那么在这个之前
你准备干点什么
在RSI出现之前
我觉得人类还是比较有价值的
出现之后
可能价值确实越来越不大了
我一直的观念都很明确
就是做一些
不管你存不存在
都在这个世界上可以持续传播的东西
就可以了
就是编辑复制成本为零的东西
多生产一点
你还活在上一个这个定论里
对对对
因为这个定论
已经完全考虑不了了
我觉得
未来到底会怎么样
我应该以什么形式存在
这个事情
不是现在能够考虑得了的
当然最近
我有些体会
我觉得
做一些这个身体上的训练
包括这种身心训练
可能还蛮有价值的
不光是因为我说了
我们觉得这个运动员不会被取代
这些问题
但确实你看AI进步的速度是非常快的
但是具身智能的进步速度
其实没有那么快
所以我觉得我们对我们的身体的掌控
对身体的感受
以及如何通过身体感受世界这件事情
就显然是AI还不具备的
虽然我不知道它能创造什么价值
但至少它对人来说是绝对特别的
我不是讲过吗
有的时候我们存在的价值
不来自于我们到底能创造什么
而在于我跟别人不同
所以如果未来你觉得
没有价值的时候
你至少知道AI不能通过身体
去感受世界
暂时了
因为我们说了
这个具身智能的进步速度
还比较慢
我们先来看
那么从这个角度讲的话
你是非常特别的
你有特别于那个的价值
所以你的存在还是有意义的
然后跟你的同类们
也就是人类跟人类们
大家多互相分享一下
对身体的训练
身体的感受
这种身心灵合一的感觉
我觉得这可能还更有意义一些
当然
我觉得我们还是站在一个
人本位的角度思考
就是觉得
人类还是宇宙中的主角
但实际上这也是一种
很自大自负的看法
我们往更高层次说
是的
从来也没有什么真理
或者宇宙规律
规定人类一定是这个世界的中心
或者主角
对吧
所以我们把一个文明
或者说地球文明
交付给下一个生物
智能生物
可能也是一种很好的归宿
从这些角度讲
但是作为人类
这个种群中的意愿
看到自己可能逐将要退役
或者淘汰
大家多少会有一些落寞的
是吧
有的时候
有的时候我们会想到
以前的所有的技术
进步就是人类的进步
但可能很快就变成了
技术的进步
不再是人类的进步了
以前我们觉得
文明就天然意味着
人类的文明
那以后我们再说
文明的边界被拓展了
文明从地球文明
变成星际文明了
这个文明之前
可能都不能再使用定语
人类的
那个时候
我觉得多少是有一些感慨
但不管怎么样
当总的ID就印证了
我觉得大家现在
能够自处的最好的心态
就是大家活在当下就好了
我觉得如果
真的每天过多的去思索
这件事确实是很沉重
但是我们也可以把这个
当做我们去思考
我们现在应该怎么去做
或者怎么样去珍惜
现在的状态的一个动力
这也是我们在永生那期
好像讲过了
人类活着的意义
正是因为人类要死亡
所以才锚定的
是的
那可能现在我们又加了一个更有力的驱动力
就是当整个文明
可能都要变一个主人
或者我们传统的这个意义上的文明都要消失的时候
那可能你的现在就相比以前更珍贵了
那我们本期的讨论就到此结束
如果大家喜欢你们听到的内容的话
欢迎点赞
订阅
转发
我们很希望提供一些有趣的视角来观察这个世界
也很希望和评论区的你进行交流
所以不要犹豫
在评论区留下你的想法
虚实之间现在已经开通知识星球
欢迎在知识星球APP里搜索虚实之间plus加入
以上就是本期虚实之间的全部内容
感谢大家的收听
再见
再见