第769章 大语言模型训练(1/2)

投票推荐 加入书签 留言反馈

    第769章 大语言模型训练

    许蔚蔚仔细想想,好像确实是这个道理。

    陈阳现在跟范新平和夏君关系都很好,而且天下系的企业全都在江北,在这里已经拥有非常大的影响力了。

    就算是徐家想要动陈阳,他们也要好好掂量一下。

    “你们也开始处理手上的股票,尽快在一个月内处理完。”

    孟建国此时视线转向了两个弟弟,然后便又看向许松年道,“等股市崩盘,你安排一下,我们一起见见这个陈阳。”

    “好。”

    其实这些天,不止孟家和许家在发生这样的对话。

    只要和陈阳有一定的关系的,都在讨论他的这一系列操作。

    别的公司遇到了这种国际巨头的起诉都要打起十万分精神来应对,因为一旦输了,损失会非常惨重。

    哪怕不知道天下电子的老板是谁,但是有些聪明人也看出来了点端倪。

    天下电子感觉就像是早就知道了一样,甚至还大声的在呼唤“come on baby”,唯恐谷歌不来起诉自己。

    他们甚至在谷歌发起诉讼的第一时间,就同时发起反诉。

    在国内这么操作没问题,但是问题是天下电子在花旗国也同一时间发起了。

    这就意味着天下电子早有准备,已经安排了律师在花旗国,就等着谷歌起诉。

    在所有人的注意力都集中在了天下电子发布会和这场诉讼上的时候,陈阳到了位于怀宁区的天下云公司。

    如今天下云已经有超过一千个员工,直接在这里租了一栋大厦,负责天下云的业务。

    这里有一个庞大的研发团队,其中最核心的便是由数据科学家,机器学习工程师和软件开发人员组成的大语言模型研发团队。

    这些人要么是从各大顶尖院校毕业的,要么是从国外高薪挖回来的。

    为了保持人才不断层,天下电子还和东海全部的理工学校建立了合作关系。

    从项目合作、资源共享、联合培养、科研平台共建以及直接出钱给高校,进行这方面的人才培养。

    按照陈阳的计划,将逐步扩展到长三角区域所有的顶级高校。

    而且合作的项目不只是算法,还有芯片和通信领域,只要是天下电子需要的人才,陈阳都愿意花钱去砸。

    “语言模型训练的怎么样了?”

    gpt这种大语言模型和所有主流的人工智能一样,都是基于深度学习神经网络的东西,是海量数据训练出来的产物。

    它总共有五个关键节点,第一个也是最重要的大型神经网络模型,其次深度学习、大规模数据训练、不断优化算法以及硬件支持。

    神经网络学习其实是模拟人脑的神经元网络,这个技术早在20世纪80年代就提出了,如今基础的神经网络技术和算法已经存在。

    硬件方面,天下云这里安装了30台超高性能的gpu,专门用来训练大语言模型。

    深度学习方面,斯坦福和mit等名校在这方面具有全球领先的研究和教育资源,陈阳这些年持续在花旗国挖这方面的人才,缺的只是海量的数据。

    2005年,网络上能收集到的文本和数据还相对较少,但是两年时间过去了,互联网上已经充满了可用的资源。

    比如新闻网站、论坛、博客等等,还有英文互联网上数据也都是呈现几何式增长。

    人人网这一年多的数据,也全部都是存储在天下云,已经为训练大语言模型打下了基础。

    苏泽迅速回答道,“已经有一定成效,但还是只能回答一些简单明确的问题,距离你要求的还有一定的差距。”

    “最主要的麻烦在哪里?”

    苏泽苦笑着道,“还是优化算法的问题,算法和深度学习这方面的人才太少了。

    导致我们虽然拥有算力支持,但是计算的效率却很低。”

    陈阳闻言也不意外,他点了点头道,“现在做ai的都不太重视深度学习,那些高校也不会专门去培养这方面的人才。

    我近期会在花旗国成立分公司,到时候会专门在那边挖人。

    到时候国外和国内实验室一起推进,能解决这方面的问题。”

    陈阳说完又吩咐道,“现在着重要推进tpu的研究,一旦研究成功,它的性能会是cpu和gpu的数十倍。

    不仅能提升计算效率,还能降低能源消耗,对ai的发展至关重要。”

    苏泽点了点头,“还是人才的问题,tpu是深度学习算法专用的集成电路,天下云有深度学习算法的人,没有设计集成电路的......”

    “你去天芯公司找李南光院士,将深度学习的要求告诉他,他会帮你们的。”

    “好的。”

    陈阳跟苏泽聊了许久天下云的发展,等吃过午饭,才离开了。

    天下云需要的人才,等金融危机来了,其实就能解决很大一部分

本章未完,点击下一页继续阅读

章节目录