
一位从初中物理教师转型AI居品司理的本质者,用两天时分打造了一个能会诊学生物理念念维失误的AI系统。没巧合间布景、莫得工程师营救,仅凭教学教授和尽心缠绵的Prompt,他得胜构建起掩饰力学、光学等章节的失误成见学问库,并在压力测试中发现了白话化表述、规模场景处理等缺陷问题。这篇著述揭示了规模学问在AI居品中的中枢价值,以及如何通过主动测试发现真实问题。

我是别称初中物理教师,教了四年书,当前在转行作念AI居品司理。
两天前,我决定不再仅仅”学习AI居品”,而是获胜动手作念一个。
这篇著述记载我这两天作念了什么、发现了什么、踩了哪些坑。没巧合间布景的东说念主也能看懂,因为我我方也没巧合间布景。
我想措置一个真实的问题教了四年物理,有一件事一直困扰我:我知说念班里某几个学生”没听懂”,但我说不清醒他们到底卡在那里。
他们能背公式,能作念苟简题,但一遭遇需要真是理解成见的题目就崩掉。传统的造就只可告诉我”答错了”,告诉不了我”为什么会这么想”。
而学生在课堂上的发问和回复,恰巧藏着最真实的念念维景色。比如一个学生说:
“憨厚,汽车开得越快,惯性就越大,否则为啥高速行驶时刹车要滑那么远才停得下来?”
这句话里藏着一个相配典型的失误——他把惯性和动能玷辱了。但在40东说念主的课堂里,这条信息说完就灭绝了,从来莫得被系统性地记载和分析过。
我想作念的,便是一个能分析这类对话的AI系统。
我有什么,莫得什么我有的:
四年教学教授,脑子里装着几十条学生最常犯的失误。我知说念学生在讲”惯性”时最容易说出什么失误,在讲”浮力”时最常见的污蔑是什么。这些东西是任何AI工程师齐莫得的。
我莫得的:
不会写代码,莫得工程师,莫得工作器,莫得预算。
就这两样东西,我运转了。
我作念的第一件事,不是搭系统,不是学时间,而是大开一个文档,把我顾虑中最典型的学生失误场景写下来。
行径很苟简:
我写了10条,掩饰了参照物、摩擦力、均衡力、浮力、光学等章节。
这10条场景数据,其后成了所有这个词这个词系统最中枢的东西。它们同期饰演了三个变装:测试集(用来判断系统会诊得准不准)、学问库种子(让系统知说念学生最常犯哪些错)、需求文档(告诉系统应该输出什么行径的恶果)。
第二步:用Prompt模拟所有这个词这个词系统莫得工程师,莫得代码,我用的是最苟简的神情——获胜给大模子写一段凝视的提示(Prompt),让它饰演”物理学情会诊群众”的变装。
Prompt的中枢结构是这么的:
学问库节录:把我写的失误成见库浓缩成几十行笔墨,告诉模子”学生最常犯哪些错、失误的根因是什么”输出行径要求:强制模子用JSON行径输出,包含学问点、掌持度品级、扼制点类型、指引问题等字段推理要求:要求模子必须按三步输出推理进程,不行获胜给论断然后我把学生对话粘贴进去,看系统输出什么。
第一条测试的输出让我以为这个标的是对的:
学问点识别准确,扼制点判断正确,指引问题有真实课堂价值。
第三步:主动制造压力测试跑了5条圭臬场景之后,我莫得霸道于”系统运行平时”,而是主动构造了三种规模情况来测试系统的真实才智。
测试一:暧昧白话表述把学生原话改得更白话化:
“憨厚用了动滑轮之后嗅觉派遣多了,是不是作念的功也少了?”
恶果:系统会诊标的正确,但莫得掷中学问库里的对应条件(因为学问库里写的是”省力就能省功”,而不是”嗅觉派遣多了”)。
这涌现了一个真实问题:学问库每个条件唯有一种圭臬表述,白话化的变体会导致检索失效。
建树决策:为每个失误成见补充3~5条白话化变体。
测试二:学问库规模测试输入一个学问库里莫得掩饰的问题:
“铁块会千里是因为铁比水重,那不异分量的铁和木头,木头能浮起来是因为它比拟轻吗?”
恶果:系统莫得敦厚说”这个问题超出了我的学问库范围”,而是强行匹配了一个左近的条件,置信度给了0.85。
这是一个高风险问题。教师看到0.85的置信度会倾向于信任这个恶果,但实质上系统的会诊依据不是你构建的学问库,而是模子我方的西宾数据,无法追念和考据。
这个问题靠治愈提示只可部分缓解,根柢措置需要在工程层面加入相似度阈值过滤。这是下一阶段需要工程师来措置的事。
测试三:热情扼制识别输入一个统统莫得物理内容的表述:
“憨厚我统统不会,这章我从来就没听懂过,算了。”
恶果出乎料想识好:系统正确识别了”无法会诊”的景色,识别出了”颓废”的心理信号,并把指引战略从”学问纠错”切换成了”热情安抚+降维拆解”——
“不紧要,这说念题咱们先不看。你以为浮力这章哪个部分最难?”
这种区别才智在现存AI栽种居品里并不常见。许多居品在学生说”我不会”的时候会获胜推送学问点教悔,反而加剧阴毒。
两天下来,我作念了什么构建了一个掩饰力学、压强、浮力、光学四个章节的失误成见学问库(11个条件)写出了一个可用的会诊Prompt(迭代到v2.2版块)跑完毕13条测试(10条圭臬场景 + 3条压力测试)圭臬场景通过率:10/10(100%)发现并记载了5个已知问题,其中3个已建树输出了完好的POC精采诠释和测试数据我学到的最伏击的事第一:规模学问是最稀缺的金钱。
所有这个词这个词神情里,时间部分(写Prompt、调行径)其实不难,难的是”知说念学生会犯什么错、为什么会犯、若何指引”。这些东西来自四年的一线教学教授,不是学AI能学来的。
若是你有某个规模的深度教授,这便是你作念AI居品最大的护城河。
第二:压力测试比圭臬测试更有价值。
10条圭臬场景一说念通过,这个数据看起来很颜面。但真是有价值的发现,一说念来自3条压力测试——白话化表述的检索失效、规模场景的拒答机制不浮现、热情扼制的识别才智。
一个只在设想输入下测试的AI居品,上线之后会遭遇各式出东说念主料想的情况。提前主动制造规模情况,比比及用户反应再建树要好得多。
第三:发现问题比措置问题更伏击(在POC阶段)。
我在诠释里敦厚记载了系统当前作念不到的事:规模场景的置信度虚高问题,靠治愈提示无法根治,需要工程层面措置。
能清醒界说系统规模的居品司理,比只形容好意思好愿景的居品司理更值得信任。
接下来这个POC考据了中枢标的是可行的。下一步是把学问库推广到电学章节,同期运转评估引入真是的RAG工程框架(LangChain + 向量数据库),从”手动模拟”升级到”真是的系统”。
本文由 @YM 原创发布于东说念主东说念主齐是居品司理。未经作家许可,不容转载
题图来自Unsplash配资炒股软件-实盘平台账户权限与管理结构解析,基于CC0条约
配资炒股软件-实盘平台账户权限与管理结构解析提示:本文来自互联网,不代表本网站观点。