直达「 通往AGI之路 」飞书知识库 →
首页/问答列表/问答详情

算力怎么提高

回答

提高算力的方法主要有以下几种:

  1. 技术创新:
    • 继续在硅基上发展,如采用 3D 堆叠形态,但需要解决更好的散热问题。
    • 材料创新,包括硅基掺杂、石墨烯片等。
    • 探索计算原理的创新,如量子计算,不过目前距离商用还有不少理论和技术需要突破。
  2. 提升传输速度:高速网络会进一步进化,片间链接、片上内存等技术都会有明显的进展。
  3. 解决能耗和散热问题:高温超导技术是这方面的关键。
  4. 白嫖算力的思路:
    • 利用 Groq 平台提供的个人免费 API-KEY 接口,不同模型有相应限制。以 llama3-70b 为例,每分钟 30 次 request,每分钟 6000 tokens,每天 14400 次。
    • 将 API 调用接入各种平台提供方,无需购买和部署云服务器。
    • 考虑通过代理的方式解决国内 IP 访问限制,如 Cloudflare 或 Deno Deploy 等。
  5. 从模型变强的要素来看:
    • 算力方面,根据预估,到 2027 年底很可能会再增加 2 个 OOM,甚至在微软和 OpenAI 的超算合作下,接近 3 个多 OOM 也是有可能的。
    • 算法效率方面,通过对架构的优化,到 2027 年能提升 1 - 2 OOM。
    • 额外的潜力方面,通过强化反馈学习 RLHF、思考链 CoT、工具和 Scaffolding 等方法微调来提升模型能力。
内容由 AI 大模型生成,请仔细甄别(powered by aily)

参考资料

AGI 万字长文(下)| 2024,分叉与洪流

算力:3D堆叠、石墨烯、量子计算、高温超导。算力对于AI的价值更加直接,NVIDIA的股价可能就是最直接的例子。算力的提升目前还在性能上(而不是硅片栅-漏极间隔的物理尺寸上)继续延续着摩尔定律;但量子隧穿效应-普朗克长度的理论限制是AGI也无法突破的,因此,一定要有除了工艺尺寸缩小的其他方案。我并不是专业人员,没法给出比较靠谱的判断,从分析上能看到的几条路可能会有继续在硅基上发展:3D堆叠形态等(需要更好散热)材料创新:硅基掺杂、石墨烯片等如果再跳脱一些到计算原理的层次,就是量子计算。量子计算目前距离商用可能比可控核聚变还更远,目前的应用方向主要还在量子加密传输上,在“计算”上需要突破的理论和技术都还有不少。除了计算速度之外,另一个阻碍算力进展的是传输速度:可以想见高速网络会进一步进化、片间链接、片上内存等技术都会有明显的进展。最后,是能耗和散热问题。这里的明珠是高温超导技术。去年已经有好几篇半造假的“高温超导突破”,今年加上了AI或许就会有真的突破。广义机器人。最后,如果AGI的目标不是仅仅停留在虚拟世界,而是直接作用于物理世界,那么广义机器人就是必经之路。前文提到到“具身智能”就是为了操控机器人的AI:AGI是大脑,他也会想要身体。

【保姆级教程】白嫖Groq平台算力(无需魔法,写在扣子收费前)

这部分整理了整个达成白嫖算力的思路和目标,想直接参考教程的小伙伴可以直接跳转到第三部分教程。思考:既然有这么强大的平台,我们能不能零成本白嫖Groq算力,特别是使用其中已经部署的Llama3-70b大模型,并且易于使用呢?以下一步一步拆解从目标到落地的过程。目标:简单零成本,任何人都可以实现:无需购买大模型API-KEY无需购买和部署云服务器无需购买魔法药水使用(魔法流量也是钱)逐个击破:1.Groq平台提供个人免费的API-KEY接口,不同的模型限制如下:以llama3-70b举例,每分钟30次request,每分钟6000 tokens,每天14400次,相信可以满足大部分个人用户。无需购买大模型API-KEY ->击破Note:如果只是想体验Groq,可以直接接在Groq官网的playground体验:体验地址:https://groq.com/(需要魔法)1.我们可以将API调用接入各种平台提供方(如扣子),应用中绑定(如沉浸式翻译),通过已经做好的快捷指令等HTTP访问(如Siri),无需自己部署服务器,来实现API调用。(详见后续教程)无需购买和部署云服务器->击破1.因为Groq平台已经开始封禁国内的IP访问,在没有魔法的情况下无法直接访问,考虑通过代理的方式并且流量能满足个人用户。1.1.可以考虑Cloudflare(全球连通云,提供分析师认可的企业级安全性和连接性服务,包括SASE/SSE、Web应用程序交付和敏捷的开发)代理(目前DNS污染,很不稳定)1.2.考虑Deno Deploy(安全的JavaScript和TypeScript运行时环境,云端部署)来做代理转发,截至撰稿日,稳定而且部署简单。个人用户参考以下免费标准,一个月可有100万次代理访问,100GB带宽,足够个人用户使用。无需购买魔法药水使用->击破

智变时代 / 全面理解机器智能与生成式 AI 加速的新工业革命

根据Epoch AI的公开估计,GPT-4训练使用的算力比GPT-2多了大约三千到一万倍,增加了3.5 - 4个OOM。计算规模扩张还会持续,保守估计,到2027年底,很可能会再增加2个OOM;再大胆一些,考虑到微软和OpenAI的超算合作,即使是接近3个多OOM,相当于一千多亿美元的算力集群,也是有可能实现的。Leopold总结了让模型变强的要素,需要从下面三个方向来提升OOM:算力(Compute):上面的预估大约2 - 3 OOM;算法效率(Algorithm Efficiencies):对架构的优化,从过去一年模型推理的价格和速度的变化来估算,到2027年能提升1 - 2 OOM;额外的潜力(Unhobbling Gains):通过强化反馈学习RLHF、思考链CoT、工具和Scaffolding等方法微调来提升模型能力,这个没法预估,参考以前的经验Leopold给了1 - 2 OOM;配图4.05:Counting the OOMs最晚到2028年,可以实现3 - 6 OOM的智能提升,从GPT-2到GPT-4实现了4.5 - 6 OOM的提升,因此跃迁还会继续。不过Leopold的方法很随意,我把它放在这里做为一种视角来看待,佐证AI能力的提升还没有放缓的迹象。有可能我们能在四年内实现全自动化的Agent,企及研究生的水平,它们可以参与软件工程也可以辅助科研。如果成千上万个这样的Agent协同工作呢?这会是一个什么样的未来。。自主进化的安全问题

其他人在问
有没有推荐的算力租赁平台?
以下是为您推荐的一些算力租赁平台: 揽睿:https://lanruiai.com/register?invitation_code=0659 。WaytoAGI 邀请码 0659 可以得到 10 小时的免费时长。 厚德云:https://portal.houdeyun.cn/register?from=Waytoagi 。厚德云是专业的 AI 算力云平台,隶属于又拍云旗下,又拍云拥有 15 年云服务经验。注册后送 50 元代金券。ComfyUI 悟空换脸特效使用流程: 百度:https://aistudio.baidu.com/community/app/106043?source=appCenter 。新注册 2 个小时,登记一下,明天给大家发放 50 小时。 丹摩:https://damodel.com/register?source=46EF69A0 。20 元券,https://doc.damodel.com/profile/best_practice/SD3+ComfyUI.html 青椒云:https://account.qingjiaocloud.com/signin?inviteCode=3OF611IT 阿里云 PAI Artlab:直达地址:https://x.sm.cn/5hd9PfM 。登录后右上角领取免费试用,领取 500 元算力、OSS 20G 存储。AI 创作你的奥运专属海报,参与 PK 赢取台式升降桌、Lamy 钢笔套盒、双肩包等大奖!活动地址:https://mp.weixin.qq.com/s/y3Sk5PtVT5g8yFTMJASdFw 晨羽智云:直达地址:chenyu.cn 。体验券 9.9 元 10 小时 4090 24G。券码:GSUD7I 。硬件和网络都是顶配,能胜任各种出图模型和模型训练。针对 ComfyUI 和 SDWebUI,做了针对性的适配和镜像预下载处理,用户启动速度非常快,体验较好。协助教学团队/创作者安装镜像,和优化镜像,全程贴身服务。
2024-11-04
和ai结合的去中心化算力项目或者公司或者产品有哪些?
以下是一些与 AI 结合的去中心化算力项目、公司或产品: 智谱·AI 开源模型列表中的 WebGLM10B:利用百亿参数通用语言模型(GLM)提供高效、经济的网络增强型问题解答系统。它旨在通过将网络搜索和检索功能集成到预训练的语言模型中,改进现实世界的应用部署。代码链接: 智谱·AI 开源模型列表中的 WebGLM2B 智谱·AI 开源模型列表中的 MathGLM2B:在训练数据充足的情况下,20 亿参数的 MathGLM 模型能够准确地执行多位算术运算,准确率几乎可以达到 100%,其结果显著超越最强大语言模型 GPT4 在相同测试数据上 18.84%的准确率。代码链接: 智谱·AI 开源模型列表中的 MathGLM500M,模型下载: 智谱·AI 开源模型列表中的 MathGLM100M,模型下载: 智谱·AI 开源模型列表中的 MathGLM10M,模型下载: 智谱·AI 开源模型列表中的 MathGLMLarge:采用 GLM 的不同变体作为骨干来训练 MathGLM,包括具有 335M 参数的 GLMlarge 和 GLM10B。此外,还使用 ChatGLM6B 和 ChatGLM26B 作为基座模型来训练 MathGLM。这些骨干模型赋予 MathGLM 基本的语言理解能力,使其能够有效理解数学应用题中包含的语言信息。模型下载: 智谱·AI 开源模型列表中的 MathGLM10B,模型下载: 智谱·AI 开源模型列表中的 MathGLMChatGLM6B,模型下载:
2024-10-14
AI 算力 衡量
AI 算力的衡量可以从以下几个方面考虑: 1. 神经网络的参数(神经元的数量和连接)规模:人工神经网络与人脑的大小仍有数量级的差距,但在某些哺乳动物面前已具备一定竞争力。 2. 单位计算的成本:我们每花一美元所能得到的计算能力一直在呈指数级增长,现在大规模基础模型所用到的计算量每 3.5 个月就会翻一番。 3. 提升算力的方案: 继续在硅基上发展,如 3D 堆叠形态等,但需要更好的散热。 材料创新,如硅基掺杂、石墨烯片等。 计算原理的创新,如量子计算,但目前距离商用还有不少理论和技术需要突破。 4. 传输速度:高速网络会进一步进化,片间链接、片上内存等技术都会有明显进展。 5. 能耗和散热问题:高温超导技术是解决能耗和散热问题的关键。 此外,对于基础模型的治理,有人认为衡量计算能力可以作为一种潜在工具。但也需要探讨其他更有效的治理方法。
2024-10-12
在哪里可以找到数据 算力 算法的资源
以下是一些可以找到数据、算力、算法资源的途径: 关于数据:数据集对人工智能学习算法发展至关重要,AI 伴随着神经网络的发展而出现,多层神经网络大规模数据分析技术中的数据集是重要资源。 关于算力:您可以通过以下链接了解算力的相关内容: 算力的字面意思就是计算能力,可以直接转化成 GPU 就是算力,电脑里的显卡就是 GPU,哪怕购买云服务,也是服务商买显卡“租”给您用。 关于算法:目前没有明确给出具体的算法资源获取途径,但您可以通过相关的学术网站、技术论坛等渠道进一步搜索。
2024-10-10
算力调度
在多智能体(MultiAgent)系统中,常见的调度模式主要有以下几种: 1. 集中式调度:有一个中央控制器负责收集所有智能体的信息,并做出整体最优的决策和资源分配。常见于需要全局协调的场景,如机器人协作、交通管制等。 2. 分布式调度:每个智能体根据本地信息和与其他智能体的交互来做出决策,无需中央控制器。常用于大规模、动态、开放的系统,如传感器网络、P2P 网络等。 3. 市场驱动调度:智能体通过竞价机制获取资源和任务分配。类似于现实市场的供需规律,常用于电力负载调度、计算资源分配等领域。 4. 约束优化调度:将多智能体协作问题建模为分布式约束优化问题,通过启发式或完全算法求解近似最优解。适用于任务分配、资源规划等约束严格的场景。 5. 组织结构调度:根据特定的组织拓扑结构(层级、同辈、联盟等)对智能体角色和协作模式进行规范,实现有序调度。常见于多机器人协作、组织自动化系统中。 6. 基于规范协议的调度。 在惊人算力成本背后,对于 AI 混战下基础设施的选择,需要注意以下方面:AI 任务的调度可能造成巨大的性能瓶颈或改进。以一种最小化权重交换的方式将模型分配给 GPU,如果有多个 GPU 可用,选择最适合任务的 GPU,以及通过提前批量处理工作负载来最小化停机时间,都是常用的技术。总之,模型优化仍然有点像黑魔法,大多数创业公司都与第三方合作来处理一些软件方面的问题。通常,这些不是传统的 MLops 供应商,而是专门针对特定生成模型进行优化的公司(例如 OctoML 或 SegMind)。
2024-09-26
在waytoagi买的算力包从哪里查看和使用?
在 waytoagi 购买的算力包可以通过以下方式查看和使用: 测试平台:Tensor.Art 网址:https://tensor.art/ 专属邀请码:waytoagi 。登录并使用专属邀请码注册,普通用户每天免费有 100 个算力,使用邀请码的用户可以获得 200 算力。 Tensor.Art 使用指南: TensorArt 教学视频内容及其对应链接:
2024-09-07
AI如何在平面设计工作流中提高效率,具体的步骤有哪些
以下是 AI 在平面设计工作流中提高效率的具体步骤和相关信息: 1. 工具选择 主要工具:Midjourney 和 Stabel Diffusion。 辅助工具:RUNWAY 和 PS beta 等。 2. 工作流效果 创意多样:设计解决方案更为多样和创新,项目中不同创意概念的提出数量增加了 150%。 执行加速:AI 生成的设计灵感和概念显著缩短了创意阶段所需时间,设计师在创意生成阶段的时间缩短了平均 60%。 整体提效:在整体项目的设计时间减少了 18%。 3. 提升能力的方法 建立针对性的 AI 工作流:使用 lora 模型训练的方式,生成特定的形象及 KV 风格,建立包含品牌形象、风格视觉 DNA 的模型,并根据实用场景进行分类。 实用的模型训练:在营销活动期间,根据市场环境和消费者偏好的变化迅速调整 lora 模型。 AI 设计资产储备:建立和管理 AI 设计资产,沉淀相关知识、技能、工具,促进团队内部的知识积累和提升。 此外,对于建筑设计师审核规划平面图,以下是一些可用的 AI 工具: HDAidMaster:云端工具,在建筑、室内和景观设计领域表现出色,搭载自主训练的建筑大模型 ArchiMaster。 Maket.ai:面向住宅行业,在户型和室内软装设计方面有探索,能根据输入需求自动生成户型图。 ARCHITEChTURES:AI 驱动的三维建筑设计软件,在住宅设计早期可引入标准和规范约束设计结果。 Fast AI 人工智能审图平台:形成全自动智能审图流程,实现数据的汇总与管理。 但每个工具都有其特定应用场景和功能,建议根据具体需求选择合适的工具。
2024-11-12
如何提高RAG应用中的准确率
以下是一些提高 RAG 应用准确率的方法: 1. 基于结构化数据来 RAG: 避免数据向量化和语义搜索的问题,直接利用原始数据和 LLM 的交互,提高准确率。因为结构化数据的特征和属性明确,能用有限标签集描述,可用标准查询语言检索,不会出现信息损失或语义不匹配的情况。 减少 LLM 的幻觉可能性,LLM 只需根据用户问题提取核心信息和条件,并形成标准查询语句,无需理解整个文档语义。 提高效率,省去数据向量化和语义搜索过程,直接使用标准查询和原始数据进行回复,且结构化数据的存储和更新更易更省空间。 增加灵活性,适应不同数据源和查询需求,只要数据是结构化的,就可用此方法进行 RAG。 2. 参考行业最佳实践,如 OpenAI 的案例: 从较低的准确率开始,尝试多种方法,标记哪些被采用到生产中。 通过尝试不同大小块的信息和嵌入不同内容部分,提升准确率。 采用 Reranking 和对不同类别问题特别处理的方法进一步提升。 结合提示工程、查询扩展等方法,最终达到较高的准确率,同时强调模型精调和 RAG 结合使用的潜力。 3. 深入了解 RAG 的基础概念: RAG 由检索器和生成器组成,检索器从外部知识中快速找到与问题相关的信息,生成器利用这些信息制作精确连贯的答案,适合处理需要广泛知识的任务,如问答系统,能提供详细准确的回答。
2024-11-08
有哪些免费的可以提高图片分辨率的网站
以下是一些免费提高图片分辨率的方法和相关网站: 1. 在 Stable Diffusion 中: 文生图功能中有内置的高清修复(HiresFix)功能。将初始分辨率设置为 800x420 时,选择放大倍率为 2,理论上放大倍率越高,图片越清晰,但最高可达 4 倍,实际效果与电脑配置和显卡显存有关。 先以较低分辨率画图,获取生成图的种子值,然后将其填入随机数种子以固定图片,再进行高清修复,放大算法如二次元绘图可选择 RESRGAN 4x+ Anime6B,写实类风格可选择 RESRGAN 4x+。 2. Stability AI 推出的基于 Discord 的工具: :将低分辨率、低质量的图像转换为 4k 杰作,价格为 25 积分。 :简单、低成本的分辨率提升,价格为 0.2 积分。 此外,在 MJ 应用中也有相关操作,如复制图像链接和提示词等步骤来生成新的图像,并通过改变比例和镜头拉远等操作调整构图,最终提升分辨率。
2024-11-06
我只是想要修改背景和提高图片质量,哪个图片AI工具最合适
以下是一些适合修改背景和提高图片质量的图片 AI 工具: Liblibai:具有迭代步数、尺寸、生成批次、每批数量、提示词引导系数、随机数种子、ADetailer、ControlNet、重绘幅度等设置,可调整图片内容。 迭代步数:调整图片的次数,越多理论上效果越好,但并非越多越好。 尺寸:影响生成图片的大小,需适中选择。 生成批次和每批数量:控制生成图片的数量。 提示词引导系数:影响图像与提示的匹配程度,过高会使质量下降。 ADetailer 和 ControlNet 为高阶技能。 重绘幅度:用于图生图,决定输出图与输入图的差别。 辅助工具: 本地工具放大:https://www.upscayl.org/download SD 放大:扩散模型可增加细节。 开源工作流: stability.ai 的 https://clipdrop.co/tools 画质增强: magnific:https://magnific.ai/ Krea:https://www.krea.ai/apps/image/enhancer Image Upscaler:https://imageupscaler.com/ 佐糖:https://picwish.cn/photoenhancerapi?apptype=apsbdapi&bd_vid=8091972682159211710 腾讯 ARC:https://arc.tencent.com/zh/aidemos/humansegmentation?ref=88sheji.cn 腾讯开源的模型,能恢复老照片:https://github.com/TencentARC/GFPGAN 在线测试地址:https://replicate.com/tencentarc/gfpgan 美图老照片修复:https://www.xdesign.com/quality/?channel=sllbd90&bd_vid=11711254260543749686 Imglarger:https://imglarger.com/ Let's Enhance:https://letsenhance.io/ Waifu2x:http://waifu2x.udp.jp/ Photoshop 2023 Beta:更擅长对原有图像的扩充,具有创成式填充功能,可去除人物、添加元素等,但生成的某些图形质量可能不如 MJ 和 SD 的效果,仍需后期处理来达到满意效果。
2024-11-04
学习法律如何使用AI来提高学习效率
以下是关于学习法律如何使用 AI 来提高学习效率的方法和建议: 1. 数据分析处理:将数据清洗、提取、模型选择、训练和结果解释等环节分开处理,针对每个环节优化 AI 性能,便于发现和修正问题。 2. 提问方式:针对复杂问题,采用逐步深化和细化的方式提问。先提出宽泛问题,再根据回答进一步细化或深化。 3. 提供学习内容:给 AI 提供大量数据和示例,包括高质量的参考材料、操作指南、行业最佳实践、案例研究等,同时编写详细流程和知识。 4. 利用专业术语引导:在 Prompt 中使用法律术语引导 AI 回答方向。 5. 总结与组织:在提供法律建议时,用简洁明了的语言总结核心观点和注意事项,使用引号、分隔符号及连接词组织 Prompt。 6. 设定角色和能力:赋予 AI 专注于民商事法律领域、擅长案例研究等角色,提升工作效率。 7. Prompt 方法总结:格式为【设定角色+任务目标+上下文和背景信息+(正面要求)详细需求和细节性信息+(负面要求)限制和不需要的内容+回答的语言风格和形式】 8. Prompt 技巧:讲清楚背景和目的,学会提出好问题,拆解工作流程,切分环节,具体落实到工作细节。 需要注意的是,以上内容仅供参考,在实际应用中请结合自身情况进行调整和实践。
2024-10-27
剪辑事如何使用ai提高效率
在剪辑工作中,可通过以下方式利用 AI 提高效率: 1. 团队分工: 制片人负责影片的制作管理,包括团队组建、日程安排等。 图像创意人员用 AI 生成富有想象力的角色和场景,并为每个角色赋予人物小传。 视频制作人员将做好的图像素材进行 AI 图生文的工作,擅长运用工具控制以契合剧本。 编剧撰写剧本,包括故事情节、角色串联、人物台词等。 配音和配乐人员利用各种声音类 AI 工具完成相关工作。 剪辑师负责后期剪辑,包括镜头选择、节奏控制和音效配合。 团队成员分工明确,形成高效的 SOP,可快速产出。 2. 工具选择: 剪映具有人性化设计和简单音效库,但无法协同工作和导出工程文件,难以达到更好的商业化效果。 对于复杂和真实的音效制作,可能需要另外的工具。 利用 Adobe Photoshop 网页版的新技术,其 AI 能自动扫描、识别和选择图像中的各种元素,更高效、准确和可控地编辑选定区域。 3. 剪辑流程: 视频粗剪:先确定画面逻辑,声音作为部分参考,快速对片子全貌有整体把握,把素材放上,再看哪些部分需要细节调整和画面替换。 视频定剪:将画面素材调整和替换到满意效果。 音效/音乐:注意版权问题,复杂音效可能需另外制作。 特效:根据需要添加,如为弥补 AI 视频生成吃掉的光影可添加光的效果。 包装(如字幕):字幕最后添加,剪映可智能匹配字幕再修改。
2024-10-21