我是一名 50 岁的连续创业者,我身边的同龄人大多在享受生活,对于大语言模型的未来将信将疑,我却义无反顾的投身到生成式 AI 的创业之中。在这里,我想分享一下我的创业故事和我们所构建的三个 AI 产品。
这个项目开始于 2022 年初,那时候 ChatGPT 还没有出现,没有人相信 AI 能发展到今天的地步。我们那时的做法是基于认知行为流派的心理学理论,帮助人们发现思维中包含的认知扭曲,并以更健康的方式进行重塑。由于 AI 技术的限制,我们那时主要采用结构式对话而不是生成式对话,并以非常低的成本打造出一款类似 Woebot 那样的产品,我也很为此而感到骄傲。
但是 ChatGPT 的横空出现改变了一切,生成式 AI 的降维打击让我们之前的对话方式显得过于机械。我们首先想到的当然是基于生成式对现有的产品进行改造,但是我很快发现大模型更擅长的是逻辑推理而不是共情与疗愈。将生成式 AI 用于心理治疗场景,一方面受限于大语言模型的能力,另一方面还需要兼顾伦理和道德问题,这并非像我们这样的小团队现在所能掌控的事情。从某种意义上讲,当前阶段的大模型和人类自身都还没有为此而准备好。
在开发基于生成式 AI 的对话过程中,我们面临的最大困扰是大语言模型生成结果的不稳定性。即使使用同样的提示语,大模型的生成结果都很难预测,更不要说在生产环境中要面临五花八门的用户提问,而且心理场景的聊天还是以多轮对话为主,如果没有好用的评估工具和高效的评估方法,大语言模型的生成稳定性和产品质量就很难把控。
于是,我决定自己开发一款用于评估大语言模型生成质量,主要面向海外市场的 SaaS 产品,并将其取名为 EvalsOne 。这个过程对于我来说还挺困难的,考虑到成本和新方向对于知识结构的要求,我不得不将团队的规模缩小到了 3 个人,我不仅要学习全新的技术栈(我过去使用较多的是 PHP ,而新的项目则基于 Python+React 构建),我们的评估解决方案也需要不断调整来适应大语言模型能力和生态的进化。
这个过程对于我来说无疑是艰难的,但同时也充满了惊喜和收获。如果没有像 ChatGPT 和 Github Copilot ,像我这样一个零基础的 Python 小白,几乎不可能完成这样一个技术难度相当高的项目。接受和拥抱生成式 AI ,对于每个脑力劳动者和创意工作者来说,是必然的选择和趋势。
这个项目花费了我们几个月时间,当我们开始立项时,市场上还只有寥寥无几的几个评估框架,包括 OpenAI 的 Evals ,而等到我们的产品开始进入 Public beta 时,这方面的产品已经相当多了,既有开源的也有基于云端 SaaS 的。我们发现将大模型作为裁判员用于评估尽管未来前景广阔,但是对于我们这样一个小团队来说,现阶段无法在市场培育教育和组建销售队伍方面投入足够的资源,也缺乏实际的案例形成具有说服力的解决方案。
作为一个大语言模型的重度使用者,我经常需要通过 ChatGPT 、Claude 来获得帮助、解决问题,但是它们的免费版本都或多或少有着各种限制,即便付费也不总是满足我的需求,比如在 ChatGPT Plus 上只能使用 Dall-e 来生成图片,而 Claude 的 Pro 版本的条数限制和上下文长度很容易被触及。
另一方面,我还是生成式 AI 应用的开发者,需要经常调试不同厂商的 API ,尽管 OpenAI 、Claude 、Google Gemini 等都提供了各自的 Playground ,它们各有特点,但是彼此不能互通,而且支持的功能也不完整,比如 Claude 的 Workbench 中不能调试图片输入和函数调用,而 OpenAI 的 Playground 直到一年之后才刚刚加入了对于函数调用的支持,并且不支持结构化输出的调试。
我很希望有一个更强大、更开放的工作台,能够提供友好的 GUI ,并且通过 API 连接各个主流厂商的模型 API ,不受对话次数和上下文的限制,并且具有全面的功能,让我可以随心所欲的探索大语言模型的能力。我还希望使用成本对于我来说是可控的,最好是按需付费,而不是被迫购买各种厂商的付费计划却不能充分利用。
我们起初在 EvalsOne 中提供了 Playground 的功能,通过它能够调试各个大语言模型的 API 并快速发起评估运行,我们发现它的受欢迎程度甚至超过了 EvalsOne 本身,于是我们决定将它独立出来,作为我们的一个 Side project 来完善,并且给它一个独立的域名:ConsoleX.ai 。
经过了几个月的开发和完善,我觉得是时候对 ConsoleX 做一个正式的介绍了。
我知道目前市场上有很多 AI Chatbot 可供选择,但我们想打造的不仅是另一个 GUI 界面,而是一个专门为大语言模型的构建者和团队打造的超级工作台,它提供友好、统一的界面、全面的功能和丰富的扩展性。
它的主要功能包括:
在付费模式上,我们提供 freemium 的订阅模式,以及 On-demand 的付费模式。免费的新手计划(Starter Plan)用户可以使用 ConsoelX 提供的对话式 GUI 界面,并集成自己的模型、智能体和工具,还可以基于按需付费方式使用一部分共享模型;而升级后的构建者计划(Builder Plan)可以提供更强大的共享模型、智能体和工具,更大的图片和文件上传尺寸、不受限的对话历史和文件保存时长等。
现在我已经退订了所有模型厂商的付费计划,并将 ConsoleX 作为自己的生成式 AI 工作台。我相信只有首先满足我个人作为用户的需求,才能为更多基于生成式 AI 的创造者们提供有价值的产品和服务。
在生成式 AI 的创业路上我们走了不少的弯路,如今 ConsoleX 从 Side project 变成了我们主要的产品,这个项目对我个人而言也意味着很多,虽然我算是一位“高龄”的生成式 AI 方向的创业者,并且有着很大的生活压力,但我依然感觉自己充满了能量,并且坚信生成式 AI 将会对于我们生活的世界产生深远的改变,我也希望自己能够投入并参与到这个过程中。
这个月以来,我们我们终于开始通过 Stripe 获得一些销售收入,尽管数额不多,但也给我了更多动力和信心,激励我坚持下去,打做一款高质量和有价值的产品。
今天鼓起勇气发出这个帖子,是希望能够获得 V2EX 社区朋友们的反馈,无论你看好或不看好这个模式,无论你的建议是正面的还是负面的,我都会照单全收。如果你和我有着类似的需求,希望尝试使用我们的产品,我当然更加求之不得!每一位给我留言或者发送私信的朋友,我都会向你赠送一个月的 Builder plan 会员资格。
ConsoleX 的访问地址: https://consolex.ai
1
yb2313 120 天前
网站很流畅, 是专门做了优化吗
|
3
JieeeAdaxi 120 天前
点个赞,比我现在用 poe 似乎好很多!
|
4
yuntun 120 天前
赞
|
5
everfly75 OP @JieeeAdaxi 谢谢鼓励😳,比 poe 更加灵活,更适合构建和创造!
|
6
leejinhong 120 天前
赞!打算在工作中尝试替代一下 chatgpt 试试! [email protected] 求会员资格赠送体验一下😀😀
|
7
liudewa 120 天前
求会员资格 体验一下
|
8
liudewa 120 天前
@liudewa #7 我的邮箱 [email protected]
|
9
wktline 120 天前
👍
|
11
everfly75 OP @leejinhong 已经赠送了,请在 ConsoleX 中查看,有任何问题随时联系我。
|
13
pixelbook 120 天前
不容易,祝福
|
15
Meteora626 120 天前
|
16
SantuZ 120 天前
[email protected] 同求会员,谢谢大佬
|
17
ylovesy 120 天前
大佬求会员 [email protected]
|
18
everfly75 OP @Meteora626 已经赠送了,请在 ConsoleX 中查看。
|
20
zdt3476 120 天前
[email protected] 同求会员。 顺便说 帮助 页面 404 了
|
22
everfly75 OP @zdt3476 感谢反馈,会员已经赠送,会很快修复链接,正确的链接是: https://docs.evalsone.com/zh/intro/。
|
23
SaiyZhao 120 天前
厉害 佩服执行力强的人,[email protected] 希望体验下
|
24
g18gwe2131 120 天前
关于楼主做的 ConsoleX 我有几点疑问:
1. 楼主调查过这个需求足够刚需吗?市场有多大?够支撑一家公司吗? 2. 个人看着这个东西技术壁垒不高,如果以后赚钱了如何面对激烈的竞争? 3. 用户的增长率怎么样?留存率高吗?付费率怎么样?多久才能盈利? 这些问题都要去仔细考虑,否则结果一定是失败的。 |
26
acoldfox 120 天前
同求会员体验🙏 [email protected]
|
30
Meteora626 120 天前
@everfly75 收到,感谢楼主
|
31
zdt3476 120 天前
话说后续会有 桌面应用 吗?
|
32
ZTom 120 天前
同求会员体验🙏 [email protected]
|
33
everfly75 OP @g18gwe2131 感谢您提出的问题,以下是我的思考:
1. 我相信随着生成式 AI 技术的快速发展,越来越多的开发者开始尝试构建 AI 应用。但目前缺乏一个高效、易用的工作台。我们相信这是一个正在快速增长的细分市场,足以支撑一个专注的公司持续发展。 2. 核心技术壁垒可能不高,但我们相信易用性和生态整合才是最关键的竞争力。我们在用户体验上下了很大功夫,未来我们还将持续创新,提供独特价值。 3. 目前产品还处在早期阶段,达到盈亏平衡可能还需要一段时间,我以后也会多在 V2EX 这个可爱的社区中多分享数据和经验。 再次感谢您的宝贵意见,创业是一个不断积累的过程,我个人以前的经历有成功也有失败的,我会抱着享受过程的心态,争取最好的结果!💪 |
36
OutOfMemery 120 天前
同求会员体验🙏 [email protected]
|
37
AaronTwan 120 天前
有自己添加 OpenAI API 的吗,我添加的提示 Model is not available
|
38
superVee 120 天前
同求会员体验🙏 [email protected]
|
39
everfly75 OP @AaronTwan 请问你添加的步骤是怎样的?我刚刚试了一下自己的 API Key 是成功的。可以先输入 API Key 然后点击右侧的获取列表,然后在下拉列表里选择一个可用的模型。添加好之后可以现在模型列表右侧点击那个小灯泡链接测试一下。
|
40
everfly75 OP @OutOfMemery 已经赠送了,感谢支持
|
42
zhaolf1208 120 天前
求会员体验,感恩 [email protected]
|
44
zhigangwu 120 天前
求会员体验,感恩: [email protected]
|
45
everfly75 OP @loveyou1 Coze 是一个 AI Agent 编排的工具,ConsoleX 提供了方便与各种大模型对话的 GUI 界面,并为基于 LLM 构建应用提供便利,但不提供 Agent 搭建和编排的功能。
|
47
everfly75 OP @zhaolf1208 你需要先注册我才能为你升级
|
48
jasonStc 120 天前
求会员资格 体验一下,感谢
|
49
jasonStc 120 天前
|
50
terrysnake 120 天前
界面是我喜欢的!求会员体验~
另外提个建议,是否可以按照使用量付费呢?像我其实是比较轻度的使用者,特别需要使用量付费。 |
51
terrysnake 120 天前
@terrysnake 补下邮箱 terrysnake gmail
|
52
lcp9331 120 天前
求会员资格 体验一下,感谢,邮箱 [email protected]
|
53
wyman222 120 天前
求会员体验: [email protected]
|
54
Liftman 120 天前
我们公司的一个工程师也建议我们做这个平台,去向 ai 基础设施靠拢。但是我们公司实在是能力不具备。各方面人员对 ai 完全不懂。程序员拒绝学习任何新东西。经理带头就不学。所以实在是很苦恼。蹭不上 ai 的快车。都已经落后 2 年了。
|
55
everfly75 OP 谢谢你的建议,我就是不喜欢被迫购买付费会员的感受,才设计了现在 freemium+按需付费的模式。另外,你需要先注册一下 ConsoleX ,我才能给你升级会员计划。
|
56
iray1991 120 天前
求会员资格 体验一下 [email protected] @everfly75
|
57
paullige 120 天前
|
62
kakeiri 120 天前
[email protected] 求会员资格
|
63
HkMuxxx 120 天前
[email protected] 求会员资格
|
66
iamperiod331www 120 天前
|
67
everfly75 OP @iamperiod331www 升级好了
|
69
iray1991 120 天前
@everfly75 [email protected] 麻烦升级下 已经注册
|
70
Chan888 120 天前
[email protected] 已注册,求升级
|
71
Funian 120 天前
试用了下,体验非常好,已经导入自己的 api 使用了
|
72
zgh123 120 天前
[email protected] 已注册,求升级
|
73
curionox 120 天前
[email protected] 已注册,求升级
|
78
rieshinn 120 天前
cmllc2hpbm5AZ21haWwuY29t (邮箱 Base64 ) 已注册,求升级,谢谢
|
79
hehe5120 120 天前
作为程序员,目前也只是偶尔用一下 AI 。还是习惯 Google 搜索,因为只需要输入几个关键字,就可以搜到一些可能的结果,再从中找到我需要的。因为大部分时候要想把一个问题说清楚,也要写几分钟的。比如我今天遇到的一个问题,如果向 AI 提问,可能需要像下面这样写:
IDEA 中 Mybatis 存放 SQL 语句的 xml 文件,如何能双击时只选中一个单词?比如#{name,jdbcType=Varchar} 现在我双击 name 时,会选中大括号中的所有字符,而不是只选中 name 写上面这些内容大概就需要 2 分钟的时间,而且刚试了一下 AI 的回答并不能解决这个问题。 但我在 Google 搜索时,输入:IDEA Mybatis SQL XML double click selection 这些关键词,就在结果中搜到了 IDEA 官网的解答,解释了这是 IDEA 的一个 bug ,目前还未解决。 所以我一直感觉 AI 的发展空间有限,我不知道有没有人用科学的方法做过 AI 的发展曲线,是否能在 AI 上找到类似当初摩尔定律的发展特征。 |
81
everfly75 OP @hejiangyuan AI 的能力一直在进化,且能否帮你解决问题和你使用的模型以及提示语关系很大,可以试试 Claude 3.5 Sonet ,它是目前编程能力最强的模型。
|
83
sexoutsex2011 120 天前
两个问题:
1. 输入框需要 command+v 贴入图片。 2. 添加私有模型,是否能允许修改 `base_url` ?😁😁😁 |
84
wangqiKylin 120 天前
支持下楼主,求会员体验,账号:d2FuZ3FpOTEwNTIyJTQwZ21haWwuY29t
|
85
lixon166 120 天前
支持下楼主,求会员体验,[email protected]
|
86
raycloud 120 天前
已注册,求会员体验,邮箱:bmV3bWFubG9wc2lkZWQwMjA5NDgxOUBnbWFpbC5jb20=
|
87
geekfxxk 120 天前
|
88
flamehua 120 天前 via iPhone
支持一下,[email protected] 求大佬赠送会员体验
|
89
everfly75 OP |
90
anshun 120 天前
[email protected] 已注册,求升级
|
91
NonClockworkChen 120 天前
体验一下 [email protected]
|
92
everfly75 OP @wangqiKylin 已经升级
|
96
everfly75 OP @hejiangyuan 已经升级了
|
99
everfly75 OP @NonClockworkChen 需要先注册一下才能为你升级
|
100
bucuoo 120 天前
求个会员,感谢,[email protected]
|