京公网安备 11010802034615号
经营许可证编号:京B2-20210330
大数据创业:人机融合的完美范例
1. Palantir联合创始人彼得·蒂尔认为,最初与美国CIA, FBI等情报部门合作,尽管整个流程漫长很多,但非常值得,因为一旦有了它们的背书,其他客户对这个平台的信任感会增强数倍。
2. 目前,几乎每个机构都积累了很多结构化或非结构化的数据,种类上呈现多样化,体量上呈现指数式增长的态势。Palantir为客户提供数据分析平台和软件,但客户拿到的并非最终产品,而是“分析的基础架构”,由于平台支持开放的API, 客户随后可根据自身的需求个性化地定制想要的功能,替换掉不需要的元素。
3. 计算机具备很多人不具备的能力,如数据的快速处理能力,但它也有其局限性,不能做高级决策,数据分析后还需要专业人士的判断,所以将数据融合至以人为中心的模型很重要。Palantir实质上是将结合数据,技术,分析师的专业能力,将人和计算机完美地融合在一起,并将各自的优势发挥到了极致。
序:和五角大楼做生意的科技公司
8月底,美国国防部长卡特(Ash Carter)赴硅谷招募顶尖科技人才。今年来的信息大爆炸使得五角大楼不得不将目光聚焦高科技硅谷,以打击反恐。神秘的大数据平台Palantir就是美国CIA、FBI等寻求的合作对象。
据悉,Palantir拿到最新一轮4.5亿美元融资后,其估值高达200亿美金,已经成为了继Uber, 小米,Airbnb之后估值排名全球第四的公司。投资方包括硅谷风投大佬彼得·蒂尔,中情局旗下的风投机构In-Q-Tel,Inc及老虎基金等。
Palantir最为人津津乐道的案例有两个,一是此前美国政府追捕本拉登行动中,Palantir扮演了重要的情报分析的角色;二是Palantir协助多家银行追回了纳斯达克前主席麦道夫Bernie Madoff所隐藏起来的数十亿美元巨款。那么Palantir究竟是如何做到的?
PayPal“孵化”出来的独角兽
Palantir诞生于2004,其创始团队包括PayPal创始人,《从0到1》作者彼得·蒂尔(Peter Thiel),现任首席执行官阿历克斯·卡普(Alex Karp),乔·朗斯代尔(Joe Lonsdale),史蒂芬·科恩(Stephen Cohen)和内森(Nathan Gettings)。
在PayPal内部,从一个账户到另一个账户大规模转账不是最难的,难的是如何预防这一过程中产生的欺诈。当时工程师团队开发了一套软件来辨别可疑账户,但每笔交易还得由专业的分析师进行判断筛选,整个耗时耗力,大规模的交易量已经不允许人工的分析方式来处理这一问题。
工程师团队后来想到了另一套软件,通过匹配用户过去的交易记录和现在的资金转移情况来查询可疑账户,这种方式快速有效,为PayPal挽回了很大一块由欺诈和洗钱带来的损失。那么这跟后来与美国中情局(CIA)合作又有什么关系?
Palantir联合创始人史蒂芬·科恩此前在斯坦福大学演讲时表示,这个想法是彼得·蒂尔2004年提出来的,因为当时反恐问题迫在眉睫,虽然美国中情局(CIA)和美国联邦调查局(FBI)等掌控的数据库成千上万,但他们没办从海量数据中快速构建联系,及时找出最关键的线索,提前应对潜在的恐怖袭击。
当时的政府不像现在主动像硅谷寻觅高科技人才。反而是Palantir成员认为政府可能需要这样的技术而主动与CIA联系,“离CIA会议还不到八周,但产品还没有做出来,”科恩说道,最终双方会谈还挺成功,CIA对这项技术很感兴趣。也是在那一年,Palantir获得了美国中情局风投部门200万美元的天使融资。
彼得·蒂尔曾讲过,虽然与美国情报机构等政府部门合作,整个流程会慢长很多,但很值得,因为一旦有了CIA的背书,其他客户对这个平台的信任感会增强很多。
但前期进展并没有想象中那么快。05-08年,CIA仍是Palantir唯一的客户;非政府级别的客户都是2010年才慢慢积累起来的,比如为防范欺诈洗钱等犯罪活动,摩根大通成为了最早一批使用Palantir Metropolis平台的金融机构;后来,美国最大的巧克力厂商“好时”巧克力集团用同样的平台来提高其销售利润。2013年时,60%的营收来自于私企客户。
目前,Palantir旗下有两大核心支柱,Palantir Gotham平台和Palantir Metropolis平台,前者主要用于国防安全领域,后者更偏重于金融领域的应用。
让Palantir团队感到自豪的是,他们的Palantir Gotham平台为政府在追捕本拉登过程中起到了至关重要的情报分析作用;而Palantir Metropolis平台为人熟知是因为其帮助多家银行追回了纳斯达克前主席麦道夫(Bernie Madoff)所隐藏起来的数十亿美元巨款。
核心理念:人脑智能与计算机智能无缝交互
1997年,IBM超级计算机“深蓝”战胜了世界象棋冠军加里·卡斯帕罗夫;2005年,这位象棋冠军发明了一项人与计算机自由式组合的象棋比赛。结果出人意料,并不是功能最强大的超级计算机联合最顶尖的象棋手拿到了冠军,相反,比赛赢家是功能相对强大的计算机与水平中上的象棋手的联合。
毫无疑问,计算机擅长处理海量数据,但人与计算机的无缝交互才是解决难题的关键。
现在几乎每个机构都多渠道积累了结构化或非结构化的数据,它们种类上呈现多样化,体量上呈现指数式增长的态势。Palantir构建的是“分析的基础架构”,为客户提供数据分析平台和软件,使其对海量数据进行分析,得出结论,如哪些地方最容易遭遇恐怖袭击。
但值得注意的是,客户拿到的都不是最终产品。它不是一个可视化工具;不是一个封闭的平台(允许设计第三方应用,支持开放和公共API);也不是一个数据库一统天下。相反,客户可以根据自身的需求替换掉一些不想要的功能,或添加需要的功能。
计算机具备很多人不具备的能力,如数据的快速处理能力,但它也有其局限性,不能做高级决策,数据分析后还需要专业人士的判断,所以将数据融合至以人为中心的模型很重要,不管是何种类型和体量的数据,Palantir工程师团队能将相关的数据整合和匹配成单一连贯的模型。
比如随之海量数据流入Palantir Gotham平台,它们会被转化成有意义的,或能被定义的物体与关系:人,地方,东西,活动,及他们之间的相互关系。然后通过人为的分析使数据变活,比如可以同时搜索数据源,使关系可视化,发现关联性,将隐藏的模型浮现出来,并与同事分享这些洞察结果。
正如Palantir联合创始人兼首席执行官卡普接受福布斯专访时曾说道,“Palantir实质上是将结合数据,技术,分析师的专业能力,将人和计算机完美地融合在一起,并将各自的优势发挥到了极致。”
Palantir这种人机融合具体表现在以下几个方面:
第一,数据整合。快速灵活地处理Palantir文件或数据库中的各项数据,并实现规模化,这是其他一切的基础;
第二,搜索和发现。当你在搜索你了解的信息时,有工具会帮助你发现你不知道的信息;
第三,算法引擎。通过算法在海量数据中找到模型;
第四,知识管理。Palantir平台上所有的信息源都会有标注,以便下一位同事查询能一目了然;
第五,安全和合作。Palantir平台非常注重隐私保护,无论使用这一平台是Palantir成员还是客户,都只能看到自己所需要的信息,其他信息都是屏蔽掉的。另外,Palantir成员乐于相互分享分析洞察结果。
尾声:Palantir灵魂人物——古怪而神秘的哲学家
Palantir联合创始兼CEO阿历克斯·卡普(Alex Karp)在硅谷被认为是“怪人”。他是彼得·蒂尔在斯坦福大学的室友,还是一位哲学博士。他接受外媒采访时表示,公司迄今都没有市场部门,没有销售团队。
最新一轮融资后,Palantir已估值200亿美元,卡普拥有8%的股权。但这位随时都能成为亿万富翁的人,并不急着上市,他的理念与华为创始人任正非类似,认为IPO会侵蚀内部文化,所以未来几年都不打算上市。
据悉,身价过亿的卡普没有一辆豪车,没有一套豪宅,他甚至连车都没有,至今仍然住在离公司不远的一套普通的房子。他自称喜欢游戏和练武,其他时间几乎都用来思考Palantir的未来。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在 MySQL 实际应用中,“频繁写入同一表” 是常见场景 —— 如实时日志存储(用户操作日志、系统运行日志)、高频交易记录(支付 ...
2025-10-30为帮助教育工作者、研究者科学分析 “班级规模” 与 “平均成绩” 的关联关系,我将从相关系数的核心定义与类型切入,详解 “数 ...
2025-10-30对 CDA(Certified Data Analyst)数据分析师而言,“相关系数” 不是简单的数字计算,而是 “从业务问题出发,量化变量间关联强 ...
2025-10-30在构建前向神经网络(Feedforward Neural Network,简称 FNN)时,“隐藏层数目设多少?每个隐藏层该放多少个神经元?” 是每个 ...
2025-10-29这个问题切中了 Excel 用户的常见困惑 —— 将 “数据可视化工具” 与 “数据挖掘算法” 的功能边界混淆。核心结论是:Excel 透 ...
2025-10-29在 CDA(Certified Data Analyst)数据分析师的工作中,“多组数据差异验证” 是高频需求 —— 例如 “3 家门店的销售额是否有显 ...
2025-10-29在数据分析中,“正态分布” 是许多统计方法(如 t 检验、方差分析、线性回归)的核心假设 —— 数据符合正态分布时,统计检验的 ...
2025-10-28箱线图(Box Plot)作为展示数据分布的核心统计图表,能直观呈现数据的中位数、四分位数、离散程度与异常值,是质量控制、实验分 ...
2025-10-28在 CDA(Certified Data Analyst)数据分析师的工作中,“分类变量关联分析” 是高频需求 —— 例如 “用户性别是否影响支付方式 ...
2025-10-28在数据可视化领域,单一图表往往难以承载多维度信息 —— 力导向图擅长展现节点间的关联结构与空间分布,却无法直观呈现 “流量 ...
2025-10-27这个问题问到了 Tableau 中两个核心行级函数的经典组合,理解它能帮你快速实现 “相对位置占比” 的分析需求。“index ()/size ( ...
2025-10-27对 CDA(Certified Data Analyst)数据分析师而言,“假设检验” 绝非 “套用统计公式的机械操作”,而是 “将模糊的业务猜想转 ...
2025-10-27在数字化运营中,“凭感觉做决策” 早已成为过去式 —— 运营指标作为业务增长的 “晴雨表” 与 “导航仪”,直接决定了运营动作 ...
2025-10-24在卷积神经网络(CNN)的训练中,“卷积层(Conv)后是否添加归一化(如 BN、LN)和激活函数(如 ReLU、GELU)” 是每个开发者都 ...
2025-10-24在数据决策链条中,“统计分析” 是挖掘数据规律的核心,“可视化” 是呈现规律的桥梁 ——CDA(Certified Data Analyst)数据分 ...
2025-10-24在 “神经网络与卡尔曼滤波融合” 的理论基础上,Python 凭借其丰富的科学计算库(NumPy、FilterPy)、深度学习框架(PyTorch、T ...
2025-10-23在工业控制、自动驾驶、机器人导航、气象预测等领域,“状态估计” 是核心任务 —— 即从含噪声的观测数据中,精准推断系统的真 ...
2025-10-23在数据分析全流程中,“数据清洗” 恰似烹饪前的食材处理:若食材(数据)腐烂变质、混杂异物(脏数据),即便拥有精湛的烹饪技 ...
2025-10-23在人工智能领域,“大模型” 已成为近年来的热点标签:从参数超 1750 亿的 GPT-3,到万亿级参数的 PaLM,再到多模态大模型 GPT-4 ...
2025-10-22在 MySQL 数据库的日常运维与开发中,“更新数据是否会影响读数据” 是一个高频疑问。这个问题的答案并非简单的 “是” 或 “否 ...
2025-10-22