【译-深度讨论】JP摩根在金融衍生品交易系统中引入NoSQL数据库技术
?欢迎熟悉外语(含各种“小语种”)的朋友,加入大数据文摘翻译志愿者团队,回复“翻译”和“志愿者”了解详情。
“金融与商业”专栏诚招:如果您是专业人士并愿意与大家分享,请后台留言,加入我们,一起把这个平台和专栏做得更好。
大数据文摘翻译作品
作者:Matthew Finnegan
翻译:卞峥
校对:吴涤
欢迎个人转发朋友圈;其他机构或自媒体转载,务必后台留言,申请授权
MarkLogic软件也将通过语义解析来识别市场操作
JP摩根通过将关系型数据库切换成NoSQL数据库系统,来降低其金融衍生品处理系统的复杂度, 以便于处理更多样性的数据并且满足日益增长的需求.
通过各类非常复杂的金融工具,该美国银行业巨头每日会产生成百上千的并且价值以亿计甚至兆计的金融衍生交易,但目前的关系型数据库并不适合存储并处理这些交易。
为降低系统压力,也为整合不同的数据库,以便于处理某些特定的功能,该银行与其合作伙伴MarkLogic软件一同开发实施了他们的NoSQL数据库技术。
在伦敦Gartner's EI &MDM峰会上,负责公司衍生产品以及外汇交易的首席技术官Keith Pritchard说道,“起初,由于金融衍生品有着许许多多的产品,我们根据各产品类型设计了各类复杂的基础架构,以至于我们最终的架构变得零散化,并且实施代价昂贵。而我的任务就是将这些整合到同一个基础架构中去。”
“因此我们对于能带来横向扩展能力的NoSQL数据库技术非常感兴趣,因为以后我们只需增加数据库容量,而不用大规模替换系统架构。
灵活性与可扩展性
NoSQL(即非关系型数据技术)数据库,不同与于传统SQL关系型数据库系统,它能允许业务人员更加方便地分析庞大的非结构化数据。JP摩根实施该技术的原因之一就是由于该类数据库技术的灵活性,它可以灵活的处理各种各样的交易数据。
“从一个数据的视角,我们处理的许多金融衍生品工具是非常灵活善变的。”他说道,“特别在OTC[WD1] (场外交易)市场,交易员需要能够在一个交易中放入相当多的他们所需要的功能,以至于我们输出的输入数据是多种多样性的。”
“同样,我们也有非常多样的输出数据。特别是现在,监管机构特别关注于各银行在干什么,会每天向我们提出各式各样不同的问题。”
“因为我们不知道输入的数据结构,我们也不知道数据的使用模式,而关系型数据又是相对固定的,所以我们需要摆脱关系型的技术。因为通过我25年的金融服务生涯得出的结论,这类技术一直企图将我固化在一个特定的模式中,导致我无法灵活应对。”
然而,Pritchard警告道,在向非关系型数据库迁移的过程中,往往会伴随着挑战,因为它需要开发人员改变原有的思维。
“对我而言,最大的教训就是不要低估我们对于技能改变的需要,至少涉及到开发团队的思维过程和处理方式的改变。”
“由于公司内绝大多数的开发人员从入行开始就使用关系型数据库,因此他们带有着关系型数据模型思想并且了解如何处理该类数据,然而一旦改变至NoSQL数据结构,我们就将给自己带来各种问题。”
“有时我们常常工作事倍功半并且数据查询非常低效,因为我们在本不需要使用非结构型数据库的时候,试着使用NoSQL数据库来处理这些事情。所以之后,我会更多的考虑如何事先去组织准备工作。”
侦测市场的操作行为
虽然银行现在已经使用NoSQL技术多年,但Pritchard认为公司仍可以利用该技术做更多的事情。
“对我们而言,下一步更大的革新将是我们要做很多工作去拓展该平台上的产品组合和所在领域。但是我的下一个挑战是如何开始有组织化的有区别的使用这些数据。”他说道。
“目前我们在交易过程中已经真正的使用了这些技术,但有些价值还没有被好好开发。例如,我们应该在自然语义能力方面做很多工作,将它运用到了寻找交易模式中。这也许可以被用来即时识别市场操作,比如交易员试图做空市场来压低价格的时候。”
“也正由于我们已经得到了这种整合所有产品的能力,我们能使用该技术来做这类事情。那将是我们未来使用的方向。”
译者分析:
以下译者解析只代表译者个人观点,欢迎讨论
NoSQL数据库技术现今已经在很多领域使用,但从国内银行金融领域来看似乎并没有很好的运用起来。似乎国内银行与文中的JP摩根相比有一定的差距。其实并不是如此。
了解NoSQL技术的话,可以知道目前NoSQL技术运用最多的是分布式文件系统,而分布式文件系统的运用更适合一次存储多次读取的分析应用,而传统关系型数据库更适合持续更新的数据处理。[WD2]
从应用场景来看,银行金融的交易场景是频繁的,导致实际的交易是持续更新的。这也就是为什么BAT们持续在叫嚷着去IOE,而银行却没有相应的措施去改变他们的core banking系统,这不是银行的技术能力不行(在所有行业中,金融行业的IT力量是比较强的),而是技术真的无法完全适应银行的交易场景。
另外由于银行通过交易系统产生的绝大多数的数据都是结构化数据,因此对于绝大部分的数据没有必要转换成非结构化数据或半结构化数据去特意的使用NoSQL技术。
因此从新闻中,我们可以发现JP摩根丝毫没有提利用该技术进行交易过账,只是说将NoSQL技术作为了金融衍生产品交易系统的数据存储技术,通过该技术进行数据分析。这也是因为金融衍生交易的多样性和多变性,导致该类数据更趋向于半结构化数据,更易于被NoSQL技术加以分析。
目前国内银行也是如此应用的,采用了传统数据仓库技术+NoSQL数据库技术作为数据库存储及处理技术。
当然现在的技术日新月异,NoSQL的技术发展也异常迅速,可能再过不长的时间也会有新技术出现,帮助银行金融行业更快更高效的进行交易。
[WD2]我觉得SQL或NoSQL主要看存储的数据是结构型还是非结构型,而不在存储次数。所以理论上讲即便是高频交易,只要产生或需要的数据类型是非结构型的,也可以用NoSQL.NoSQL数据库在以下的这几种情况下比较适用:1、数据模型比较简单;2、需要灵活性更强的IT系统;3、对数据库性能要求较高;4、不需要高度的数据一致性;5、对于给定key,比较容易映射复杂值的环境。
当然以银行现有的交易系统产生的数据来看,的确没必要转换成非结构化数据。
【译者简介】
有意联系译者,请给“大数据文摘”后台留言,附自我介绍及微信ID,谢谢!
卞峥,现供职于国内某大宗电商,之前曾在中资、外资银行工作多年,主要专注于产品设计及项目管理等工作。熟悉银行金融业务,具有经营分析类、数据类以及监管类项目的丰富实施经验。希望通过该《大数据文摘》这个平台,与更多的数据爱好者以及专家进行交流学习。
吴涤,本科毕业于上海外国语大学法语系,硕士毕业于法国巴黎二大(UniversitéPanthéon-Assas),主修统计与金融工程专业。目前旅居巴黎,就职于法国第二大银行集团,担任决策分析工程师,对于金融领域的数据挖掘、决策建模与商业分析有扎实的理论基础与丰富的实践经验。对于大数据的发展,尤其在金融领域的应用有浓厚的兴趣。2014年底正式加入大数据文摘海外翻译志愿者行列,希望在新的一年带领大家近距离观察法国,乃至欧洲在大数据时代的动向。衷心祝愿文摘成为读者最喜爱的大数据知识信息分享平台。
原文链接 http://www.computerworlduk.com/news/applications/3601382/jpmorgan-consolidates-derivative-trade-systems-with-nosql-database/
数据分析, 数据挖掘, nosql, 数据库
风险提示及免责条款
市场有风险,投资需谨慎。本文不构成个人投资建议,也未考虑到个别用户特殊的投资目标、财务状况或需要。用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。据此投资,责任自负。本文来自互联网用户投稿,文章观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处。如若内容有涉嫌抄袭侵权/违法违规/事实不符,请点击 举报 进行投诉反馈!