单位 1 / 11

社会学人工智能简介:角色、边界、验证、伦理和真实性

收益:

  • 能够区分人工智能在社会研究中节省时间的地方(摘要、记录、编码、草稿)以及研究问题、解释和道德决策留给人类的地方,具体取决于风险水平。
  • 能够了解人类领域中幻觉和捏造来源的风险,并运用独立验证每个事实、数字和参考的学科。
  • 明白为什么要透明地陈述人工智能的贡献,保留原创性,从一开始就不留任何提示痕迹

社会学研究人们如何生活在一起;它是系统研究群体、制度、不平等、文化和社会变革的科学分支。社会研究员日;它包括收集调查、进行访谈、扫描文献(所有先前撰写的有关某个主题的科学出版物)、分析数据和报告调查结果。所有这些任务都需要时间,而在所有这些任务中,人工智能(AI)——在这里,理解文本、总结文本、编码文本和生成草稿的大型语言模型——可以成为一个真正的加速器。本模块将教您如何在社会研究的各个阶段使用人工智能;但它告诉你为什么应该将解释、理论(基于理论的)框架、道德责任和最终发现掌握在自己手中。

人文社会科学有一个特点:这里的“正确答案”往往不是单一的、确定的答案;解释、背景和证据链是决定性的。所以这就是人工智能最危险的地方。人工智能可以产生幻觉——也就是说,它可以用极其令人信服的语言将不存在的来源、作者、日期或发现捏造为事实。在社会研究中,这意味着一篇文章中出现了虚假的参考文献,报告中出现了捏造的统计数据,或者将某些事情归咎于参与者但他们没有说。这是本模块的主题:AI是助手,你是作者和研究员。

一步一步:将人工智能嵌入研究过程

1. 按风险级别划分任务。并非每项任务都具有相同的风险。让人工智能总结面试笔录的风险很低(因为你可以阅读并验证笔录)。询问人工智能“文献对此有何评论”是高风险的(因为它可能会弥补来源)。

2. 给AI它所擅长的工作。总结长文本、编辑文字记录、生成代码建议、编写草稿段落、格式化表格——这些都是人工智能快速且擅长的任务。

3. 保护人类工作。确定研究问题、选择理论框架、评估样本(研究中包含的个人或单位群体)的代表性、解释研究结果并做出道德决定——这就是您的任务。

4. 验证每个输出。如果您未验证其来源,人工智能产生的任何事实、数字或引述都不会进入报告。

5. 跟踪。记下您使用的提示(您向人工智能发出的指令)、您运行的模型以及日期。这对于未来的可重复性是必要的。

提示:将人工智能想象成“速度非常快但有时不可靠的实习生”。你总是要阅读实习生的草稿,询问来源,然后签名。对人工智能应用同样的规则。

三个迷你箱子

案例 1 — 伪造的参考被捕获。一名研究生要求 AI“推荐 5 篇关于城市孤独的经典论文”。人工智能生成了 5 篇文章,这些文章的作者真实姓名并不存在——标题是可信的。学生在学术数据库中搜索了所有这些;五分之四根本不在那里。如果没有验证,虚假参考文献就会进入论文。

案例 2 — 编码速度提高 3 倍。一位研究人员有 40 份采访记录。他把前5个成绩单给了YZ,并请求代码建议;根据他的理论框架重新设计了生成的代码列表,并用这套一致的代码处理了剩余的 35 个转录本。 3周的工作时间减少为1周;决定始终是人类的。

案例 3 — 采样警告。一个团队让人工智能总结了一项在线调查的 900 份回复,并得出结论:“年轻人信任社交媒体。”有顾问问:样本是谁?大多数回复来自同一所大学的学生。 AI总结在技术上是正确的,但样本并不能代表所有青少年;结果被改写为这个限制。

四个可复制模板

1)角色和边界设定(在每个会话开始时):

你的角色:社会研究助理。你的工作是总结、编辑和提出代码和大纲。源头制造;在不确定的地方写上“必须验证”。只要依靠我给你的文字即可;不要根据自己的记忆添加统计数据或参考资料。我将做出解释和最终决定。

2)文本摘要(低风险,安全):

下面总结一下采访记录。保留参与者自己的话,不要添加新的信息。输出:(1) 5 个主题,(2) 3 个值得注意的直接引用(带行号),(3) 不清楚的点。文本:[此处]

3)来源验证反射:

对于您刚刚建议的每个参考文献:给出作者、年份、期刊/出版物和 DOI(数字对象标识符)。如果您不确定参考资料的真实性,请填写“未验证”。我宁愿你说“我不知道”,也不愿弥补。

4)偏差审查:

检查此草案:[文本]。标记其中的每个概括并询问:“这个主张基于什么样本?有任何反证据吗?它是否将一个社会群体描述为与它无关的东西?”列出一系列偏见和过度概括。

弱提示/强提示

弱提示:

总结和参考有关性别和商业生活的文献。

人工智能从旧的记忆中生成了一个无法验证的文本,其中充满了它从未读过或不存在的来源。这是伪造参考文献的风险最高的地方。

强力提示:

你的角色:研究助理。根据我将在下面粘贴的 6 篇文章的摘要(全部从数据库下载),综合了关于“性别与工作生活”的共同发现、相互冲突的发现和差距。只需使用这 6 个文本即可;添加外部资源。使用 [M1]-[M6] 标签显示每个声明所基于的文本。摘要:[此处]

区别很明显:人工智能不再编造它,它正在综合你提供给它的实际文本,并将每个声明归因于来源。

人工智能的作用:哪里强大,哪里就需要人类

任务

人工智能的贡献

人类责任

风险等级

长文摘要

快速草稿

准确性检查

成绩单编辑

清理、格式化

意义的保存

定性编码

代码建议

理论决策、一致性

中等

文献综合

合并给定文本

来源验证

统计评论

账户汇票

方法与意义的判断

道德决策

只有人类

批评的

常见错误

  • 使用AI提供的资源而不进行验证。最常见、最严重的错误;虚假参考资料会损害您的学术声誉。
  • 将解释留给AI。问题“这是什么意思?”是研究人员的工作,而不是模型的工作。
  • 在不质疑样本的情况下进行概括。即使AI总结准确,数据也可能无法代表整个人群。
  • 忽视原创性。将人工智能生成的文本呈现为您自己的句子违反了学术诚信;透明地陈述您的贡献。
  • 不留痕迹。如果您没有注明使用了哪个提示以及何时使用,则没有人能够复制您的工作。

总之

社会研究中的人工智能;是一个强大的助手,可以总结文本、编辑笔录、建议代码和写草稿。但研究问题、理论框架、样本判断、解释、伦理决定和最终发现都属于人类。对人类领域最大的危险是幻觉和虚构的根源;这就是为什么每一个事实、数字和参考资料都不会在未经验证的情况下进入任何地方。根据风险级别定位人工智能,为其提供强大的资源,保持真实性和透明度,并根据自己的判断签署每个交付成果。

应用任务

从您自己的研究领域中选择一个主题。首先告诉AI“建议5篇关于这个主题的文章”(弱方式)并在学术数据库中搜索每个建议的来源;数一数有多少是真的。然后,将你下载的3份真实摘要交给AI,通过“强提示”要求合成。写一篇半页笔记来比较两种方法的可靠性。

清单

  • [ ] 我按风险级别(低/中/高/严重)分隔任务。
  • [ ]我给AI一个启动提示,设定角色和边界。
  • [ ] 我已根据独立数据库验证了每个推荐来源。
  • [ ] 我将解释、框架和道德决定掌握在自己手中。
  • [ ] 我已经清楚地注意到人工智能的贡献并留下了我的提示痕迹。