人类文明会受到 AI 的影响。例如,南瓜博士让 AI 画了十万只猫后发现,AI 的创造如洪水般汹涌,大模型是人类智慧的加权平均。若人们偷懒地让 AI 不断创造平均值内容,可能导致独特风格被平均掉,人类文化被“高斯模糊”。但每个人积极使用 AI 时,能将独特性留在与 AI 共创的作品中,保留个体独特性的世界对人类才有意义。
同时,MIT 的研究表明,AI 在帮助人类提高效率时,也带来了认知挑战,如诱导认知扭曲和造成虚假记忆的风险(信息茧房)。企业和个人需保持清醒认知,了解其潜在风险和局限性。要关注数据质量和 AI 生成内容对人类认知的长期影响,通过建立健全的数据审查机制、引入多源信息验证和保留人类监督,防范风险,确保 AI 是为人类服务的工具,而非控制人类思维。
我终止了自动运行的脚本,把十万只猫咪封存起来。AI的创造像洪水一般,太过汹涌。大模型是人类智慧的加权平均。偷懒的人们用“一键出”的方式,让AI不断创造等于平均值的内容,而这些内容不知什么时候又会被用于AI的继续训练。我特别担心这样一来,AI像做平滑降噪算法一样,对人类的文化进行“高斯模糊”。那些独特的风格会渐渐被平均掉,变成灰蒙蒙的一片。我,是对我而言,最独特的存在。AI是个平均值,但我能用我的创造和判断、为AI的创造注入灵魂,得到对我而言最有价值的作品。麦橘和waytoagi风格库社群的人肉探索是有意义的;一个需要人不断参与其中挑挑拣拣的agent flow是有意义的。每一个人,当他积极地使用AI时,他就把他的独特性、留在了他和AI共创的作品里。而保留着每个个体独特性的世界,才是对人类有意义的世界。耳边响起了《流浪地球》里刘培强的声音:“没有人类的文明毫无意义。”
MIT的研究提醒我们,AI在帮助人类提高效率的同时,也带来了不可忽视的认知挑战。企业和个人都需要保持对AI的清醒认知,了解其潜在的风险和局限性。在日益依赖AI的时代,我们不仅要关注数据质量,还要关注AI生成内容对人类认知的长期影响。通过建立健全的数据审查机制、引入多源信息验证和保留人类监督,企业和个人可以更好地防范虚假记忆和认知扭曲的风险,确保AI作为工具为我们服务,而不是控制我们的思维。接下来我们探索AI相处之道!
MIT的研究提醒我们,AI在帮助人类提高效率的同时,也带来了不可忽视的认知挑战。企业和个人都需要保持对AI的清醒认知,了解其潜在的风险和局限性。在日益依赖AI的时代,我们不仅要关注数据质量,还要关注AI生成内容对人类认知的长期影响。通过建立健全的数据审查机制、引入多源信息验证和保留人类监督,企业和个人可以更好地防范虚假记忆和认知扭曲的风险,确保AI作为工具为我们服务,而不是控制我们的思维。接下来我们探索AI相处之道!