随着近年来AI的迅速进步，如今AI已经成为了各行各业不可或缺的生产力工具，即便对于罪犯来说也一样。而为了避免成为犯罪的帮兇，许多AI工具都会针对使用者输入的内容做出严格的规范。
一旦使用者触犯到这些规范，轻则可能被暂停使用一阵子，重则可能直接就被封锁帐号了。
最近日本科学系作家兼YouTuber「くられ」，就因为跟ChatGPT讨论到可能作为武器的相关知识，遭到直接封锁帐号的处分！
以下就跟着一起来看看，这是怎么一回事吧……
くられ（Kurare）是日本一位经常以科学研究、生活理化与毒物知识为主题，从事创作的作家兼YouTuber。同时也有在人气漫画《Dr.STONE 新石纪》当中，从事科学监修的工作。
而他最近就在Ｘ发文，抱怨起了自己因为借助ChatGPT的力量从事创作，却突然遭到封锁帐号的事情……
「ChatGPT的帐号突然被停权了。理由似乎是违反了武器制造的规定，我只是为了创作小说在查资料，却突然弹出橘色警告并直接封号。
虽然提出了异议，但隔了半天之后的答覆仍是维持原判。虽然多亏还有优秀的Gemini，所以没有造成致命的影响，但是这种处理过程全由AI应对的机制真的很令人困扰……」
根据くられ（Kurare）表示，他最近藉助了ChatGPT的力量，整理了一些用于写作的资料。但或许因为问到一些跟武器有关的资讯，导致他被判定为打算制造武器做坏事，于是帐号无预警地整个被封锁了！
此话一出，许多网友也陆续分享自己曾经被ChatGPT警告，或是遭到停权的经歷。而くられ（Kurare）也继续补充说……
「听说当出现不同颜色的警告框时，最好乖乖听话，但似乎也没有明确的应对方法。以我的专业背景，之前查询过治安更差的内容都没被警告过，或许它的判断基准就是那种『看似稀松平常却很危险』的内容吧。」
「ChatGPT很烦的一点是，明明是在询问安全性的问题，它却觉得使用者想要做坏事。像是我看到有人问『浴厕清洁剂混在一起会不会怎样？』，竟然也会被警告『违反武器制造规定』之类的。」
「稍微爬了一下文，发现好像很多人也是没收到警告，没被告知标准在哪，就被直接封锁帐号了。」
「我都已经先打过预防针，说我只是要创作上的设定，只要９成的人看起来『很像那么回事』就好，不需要提供太详细的资讯，结果还是直接被封锁，真的让我傻眼了……」
「要从头开始建立设定真的是太累人了，所以我想我暂时应该都不会想碰它了……」
くられ（Kurare）还表示，虽然他也知道Gemini很好用，但他还是比较偏好使用ChatGPT。原因在于Gemini跟Google帐号连动，让他很担心一旦出事，就会导致他的YouTube频道一起消失啊！
「关于向生成式AI提问存在风险这件事，我不把Gemini当成主力工具的原因，正是因为它与Google帐号连动，一不小心说不定连YouTuber频道都会被一併删除了。听说确实有过这种案例，真的很恐怖。
譬如发现学生被虐待，找它商量却被当成赞颂暴力。或是想要询问清洁剂的安全性，却被当成要准备恐攻。名人上传自己的修图照片，就被当成深伪影像。诸如此类两光的行径我听过太多了。
加上最近美国的政治情势不稳，可能也因此导致相关规范被直接拉高，让人不得不思考该如何使用这些AI了。」
这串文章引发网友热烈议论，之后过了一天，くられ（Kurare）表示他收到来自ChatGPT官方的联系了！
「欸——这件事情似乎闹得太大，连OpenAI的员工都跑来找我，还说要帮我拿回帐号了。但我直接说结论，因为我觉得只有自己让人开特例并不公平，所以我拒绝了。
我跟他们说，以后要是想改善申诉机制，或是想听日本创作者的意见，我随时可以帮忙。
我也有问过他们，能不能将这些事情推特上，所以才向各位报告。总之希望以后服务能够改善……拜託啰！」
（ ´_ゝ`）这种事情最烦的，就是即便申诉也不会有真人出面处理啊……
- 本站部分内容转载自其它媒体，但并不代表本站赞同其观点和对其真实性负责。
- 若您需要商业运营或用于其他商业活动，请您购买正版授权并合法使用。
- 如果本站有侵犯、不妥之处的资源，请联系我们。将会第一时间解决！
- 本站部分内容均由互联网收集整理，仅供大家参考、学习，不存在任何商业目的与商业用途。
- 本站提供的所有资源仅供参考学习使用，版权归原著所有，禁止下载本站资源参与任何商业和非法行为，请于24小时之内删除!
