以下是关于对人工智能的一些看法:
担忧一:是否会放大人类的负面影响在技术层级上解决类似于社会歧视等问题,如RLHF担忧二:导致失业人工智能会优化效率,但实际每个工作的组成部分不是单一的,人可以和人工智能更好的协同。吴恩达举例了,16年行业看低,放射科医生岗位的案例。但实际放射科医生没有失业,因为解读X光照片事实证明比当时看起来更困难,而且放射科医生工作的多部分组成,解读X光照片仅仅是一个部分。最终,能比较明确的是,会人工智能的人会取代不会人工智能的人担忧三:人类毁灭人工智能可能导致许多问题,但当出现人工智能会有毁灭性影响的观点,并评估论点现实性,吴恩达老师发现都不具体,也没有具体说明人类如何灭绝。人类有丰富的经验来控制比个体强大的事物,像公司与国家许多没有完全控制的事物,像飞机,还是有价值并且安全的如果关注其他的像气候变化和大流行病,AI可以成为解决的关键
(3)ARTIFICIAL INTELLIGENCE.—The term ‘‘ar-7tificial intelligence’’ means a machine-based system8that can,for a given set of human-defined objectives,9make predictions,recommendations or decisions in-10fluencing real or virtual environments.Artificial in-11telligence systems use machine and human-based in-12puts to—13(C)use model inference to formulate op-17tions for information or action.18
过度乐观与过度悲观都不可取。少量数据导致AI无法有良好表现,但高性能AI系统是黑盒模型,不清楚中间的运行原理,难以解释。为了大众能够接受AI,AI解释性研究也是众多学者在努力的方向。AI会产生偏见与歧视