首页 文章详情

支持开票 | Python实证指标构建与文本分析

大邓和他的Python | 695 2022-12-22 13:41 0 0 0
UniSMS (合一短信)

LovelyPlots库 | 格式化科学论文、论文和演示文稿的可视化图形


付费课程 |支持开票| 

购前咨询 微信372335839



概览

为何要学Python?

在科学研究中,数据的获取及分析是最重要的也是最棘手的两个环节!

前大数据时代,一般使用实验法、调查问卷、访谈或者二手数据等方式,将数据整理为结构化的表格数据,之后再使用各种计量分析方法,对这些表格数据进行分析。但大数据时代,网络数据成为各方学者亟待挖掘的潜在宝藏,大量商业信息、社会信息以文本等非结构化、异构型数据格式存储于海量的网页中。那么对于经管为代表的人文社科类专业科研工作者而言,通过Python可以帮助学者解决使用Web数据进行科研面临的两个问题:

网络爬虫技术 解决 如何从网络世界中高效地 采集数据
文本分析技术 解决 如何从杂乱的文本数据中 抽取文本指标(变量)?



一、Python语法入门

  1. Python跟英语一样是一门语言

  2. 数据类型之字符串

  3. 数据类型之列表元组集合

  4. 数据类型之字典

  5. 数据类型之布尔值、None

  6. 逻辑语句(if&for&tryexcept)

  7. 列表推导式

  8. 理解函数

  9. 常用的内置函数

  10. 内置库文件路径pathlib库

  11. 内置库csv文件库

  12. 内置库正则表达式re库

  13. 初学python常出错误汇总


二、数据采集

  1. 网络爬虫原理

  2. 网络访问requests库

  3. 网页解析pyquery库

  4. 案例  豆瓣读书

  5. 案例  Boss直聘

  6. 如何解析json数据

  7. 案例  豆瓣电影

  8. 案例  京东商城

  9. 案例  用爬虫下载文档及多媒体文件

  10. 案例  上市公司定期报告pdf批量下载

  11. 案例  上交所招股说明pdf批量下载

  12. 案例  深交所招股说明pdf批量下载

  13. 爬虫知识点总结



三、初识文本分析

  1. 从编码/解码视角重新理解文本

  2. 读取不同格式文件中的数据

  3. 如何将多个txt文件整理到一个excel中

  4. 案例  中文分词及数据清洗

  5. 案例  词频统计&词云图

  6. 案例  共现法扩展情感词典(领域词典)

  7. 案例  词向量word2vec扩展领域词典

  8. 案例  中文情感分析(词典法)

  9. cntext库 情感分析代码操作

  10. 案例  对excel中的文本进行情感分析  91

  11. 案例   语言具体性与心理距离 | 以JCR2021论文为例

  12. 案例   使用MD&A数据测量企业数字化 | 以管理世界2021、财经研究2022论文为例


 

四、机器学习与文本分析

  1. 了解机器学习ML

  2. 使用机器学习做文本分析的流程

  3. scikit-learn机器学习库简介

  4. 文本特征抽取(特征工程)

  5. 案例  在线评论文本分类

  6. 使用标注工具对数据进行标注

  7. 案例  计算文本情感分析(有权重)

  8. 案例  文本相似性计算

  9. 案例  使用文本相似性识别变化(政策连续性)

  10. 案例  Kmeans聚类算法

  11. 案例  LDA话题模型

  12. 使用机器学习从图片中提取文本信息


五、词嵌入与认知

  1. 词嵌入原理及应用概述

  2. 案例  豆瓣影评-训练词向量&使用词向量

  3. 案例  使用词向量做话题建模

  4. 案例  认知指标(态度、偏见等)的测量

  5. 总结-文本分析在社科(经管)领域中的应用




相关文献

在这里我把技术细分为词频、词袋、w2v建词典、w2v认知变迁四个维度,整理了经管7篇论文。大家可以阅读这7篇论文,掌握文本分析的应用场景。

[1]沈艳, 陈赟, & 黄卓. (2019). 文本大数据分析在经济学和金融学中的应用: 一个文献综述. 经济学 (季刊), 18(4), 1153-1186.
[2]王伟,陈伟,祝效国,王洪伟. 众筹融资成功率与语言风格的说服性-基于Kickstarter的实证研究.*管理世界*.2016;5:81-98.
[3]胡楠,薛付婧,王昊楠.管理者短视主义影响企业长期投资吗?——基于文本分析和机器学习[J].管理世界,2021,37(05):139-156+11+19-21.
[4]Kai Li, Feng Mai, Rui Shen, Xinyan Yan, Measuring Corporate Culture Using Machine Learning, *The Review of Financial Studies*,2020
[5]Loughran T, McDonald B. Textual analysis in accounting and finance: A survey[J]. *Journal of Accounting Research*, 2016, 54(4): 1187-1230. Author links open overlay panelComputational socioeconomics
[6]Berger, Jonah, Ashlee Humphreys, Stephan Ludwig, Wendy W. Moe, Oded Netzer, and David A. Schweidel. "Uniting the tribes: Using text for marketing insight." *Journal of Marketing* 84, no. 1 (2020): 1-25.
[7]Cohen, Lauren, Christopher Malloy, and Quoc Nguyen. "Lazy prices." *The Journal of Finance* 75, no. 3 (2020): 1371-1415.
[8]孟庆斌, 杨俊华, 鲁冰. 管理层讨论与分析披露的信息含量与股价崩盘风险——基于文本向量化方法的研究[J]. *中国工业经济*, 2017 (12): 132-150.
[9]Wang, Quan, Beibei Li, and Param Vir Singh. "Copycats vs. Original Mobile Apps: A Machine Learning Copycat-Detection Method and Empirical Analysis." *Information Systems Research* 29.2 (2018): 273-291.
[10]Packard, Grant, and Jonah Berger. “How concrete language shapes customer satisfaction.” _Journal of Consumer Research_ 47, no. 5 (2021): 787-806.
[11]冉雅璇,李志强,刘佳妮,张逸石.大数据时代下社会科学研究方法的拓展——基于词嵌入技术的文本分析的应用[J].南开管理评论:1-27.
[12]曾庆生,周波,张程,陈信元.年报语调与内部人交易:“表里如一”还是“口是心非”?[J].管理世界,2018,34(09):143-160.
[13]彭红枫, & 林川. (2018). 言之有物: 网络借贷中语言有用吗?——来自人人贷借款描述的经验证据[J]. 金融研究, 461(11), 133-153.
[14]吴非, 胡慧芷, 林慧妍, and 任晓怡. “企业数字化转型与资本市场表现——来自股票流动性的经验证据[J].” 管理世界 (2021).









免费公开资料-社会科学文本挖掘资料汇总

公众号和博客积累了大量社会科学文本挖掘资料,涵盖文本分析概念、技术、代码、数据等。全部理清楚感兴趣的可以关注收藏。

https://hidadeng.github.io/blog/the_text_analysis_list_about_ms/

文献类

代码类


数据集



good-icon 0
favorite-icon 0
收藏
回复数量: 0
    暂无评论~~
    Ctrl+Enter