星空君最近沉迷炼丹,并取得了一定的成果。
当然了,AI小姐姐并不是人工智能的全部,星空君最大的成果并非AI绘画,而是在文本大模型方面有了一点心得。
继云计算之后,新基建又迎来了新的转型机遇:大模型。
【资料图】
未来,不接入大模型的软件将被时代淘汰。
和OpenAI动辄几万张A100训练一次几千万美金相比,随着技术的迭代,越来越多的大模型开始支持个人用户低成本训练。
最为知名的莫过于清华团队的ChatGLM,其开源版支持消费级显卡。
星空君的3060勉强能跑得起ChatGLM(int8模式),但要想很好的训练,依然需要更高的配置。
看来,对于试图在本地炼丹人士来说,4090将是标配,否则只能去租云服务器。
朋友说,我手头有8块5700你要不要。
5700是AMD的显卡,被简称A卡。遗憾的是,炼丹A卡不大行。
无论是著名的AI绘图软件Stable Diffusion,还是ChatGLM,抑或是其他可以在本地显卡训练的模型,都不约而同的使用了CUDA(4月份的时候,Stable Diffusion有了支持A卡的程序,但训练lora必须用linux,易用性比较差)。
这是一款计算平台,Nvidia的独门绝活,深度绑定硬件,只支持N家显卡。
在通用领域,玩游戏可以买AMD的显卡,做深度学习,只有Nvidia一家可选。
不过,苏妈说,AMD,Yes!
据知情人士透露,微软正在与超威半导体(AMD)展开合作,资助后者向人工智能(AI)芯片领域扩张。这是微软多管齐下战略的一部分,目的是获得更多令人垂涎的人工智能部件。
这里面有两个好消息,一是目前人工智能的巅峰是OpenAI公司,正是微软花了100亿美元投资的,甚至连训练ChatGPT的显卡,都是微软赞助的;二是微软在软件方面的造诣,有望和AMD联手搞出个超越CUDA的平台来。
微软正在为AMD提供资金支持,并与这家芯片制造商合作开发一款代号为雅典娜(Athena)的人工智能芯片。
微软已经把ChatGPT集成到bing、Office等产品线中,牢牢把控住了应用层。对AMD的投资,很显然是要把控制力延伸到全产业链。
微软最早可能在明年让雅典娜芯片在公司内部和OpenAI内部广泛使用,但即使该项目能如期完成,也只是一个起点。
毕竟制造高端芯片需要数年乃至更长的时间,而英伟达已经有了很大的领先优势。而这也许是微软与AMD合作开发雅典娜的原因。
AMD首席执行官苏姿丰近日表示:我们对人工智能领域的机会感到非常兴奋,AMD已经将人工智能列为第一战略重点,人工智能创造了一个比云更广阔的市场。
苏姿丰表示,AMD将有机会为其客户生产部分定制芯片,用于他们的人工智能数据中心。
对于炼丹师们来说,这是双重好消息。
第一重,显卡大概率要降价了;
第二重,A家显卡用户有望用上比cuda好用的计算平台,深度学习又多了一个选择。
另外,微软搞计算平台,大概率是普适的,不太可能只适用于一个品牌的显卡,这也意味着,包括国产显卡在内的其他品牌显卡有可能会用上微软的计算平台。