限制ip, 限制api的访问频率，限制token的访问频率，贵的要死。
这些措施一用，还有什么访问压力。
看IP下菜，异常IP，同一个IP访问次数多了，触发关键词多了，就给你降智装傻，回答答非所问。
你就是再有钱，也不敢用chatgpt来做严肃商业。
就是一个纯骗投资者圈钱的项目，to B/C完全是搞笑的。

用python的高并发网站多的是，比如过早客

瓶颈不是在大模型侧么？

这 http server的玩意万一压力真的太大了，可以用类似的 nignx 的网关，实现低成本用 n 多台机器分摊 http 请求压力啊

倒是大模型刚出来，还没看见有成熟的集群/分布式拓展工具和架构方案，帮助大模型分摊内容生成的计算压力

@IDjiang2 @irving2016 @dhticy 你们真有兴趣，看一下chatgpt的api收费就明白了。

本版server是什么

@ddddd 也是flask

语言从来不是性能的瓶颈，youtube还是Python写的呢