wyttt
V2EX  ›  OpenAI

chatgpt 炸了,代码跑着跑着出现了成人内容

  •  
  •   wyttt · Jan 13 · 5119 views
    This topic created in 132 days ago, the information mentioned may be changed or developed.

    chatgpt 炸了,正跑着代码文档,突然出现了这些

    18 replies    2026-01-13 19:06:23 +08:00
    crackself
        1
    crackself  
       Jan 13 via Android
    这不是成人内容吧
    shunia
        2
    shunia  
       Jan 13
    检查一下你的各种配置文件、skills 、mcp 等等,看看是不是什么工具被污染了。看 log 极小概率是 chatgpt 的问题,那个 spec 是某个 mcp 或者 skills 管理/维护的吗?
    zcf2009
        3
    zcf2009  
       Jan 13
    最近刚看到,相对于 seo ,又出现了新的 geo ,专门给 ai 可能会采集的数据提前喂屎喂虚假信息喂广告。你这个估计就是被污染了
    WarlockMan
        4
    WarlockMan  
       Jan 13
    这怎么那么像 seo 污染,就是那种 在各种搜索结果里无孔不入的安插污染词条一样的农场污染
    google 是的,推特也是,现在已经进化到 ai 污染了么,天呐
    wyttt
        5
    wyttt  
    OP
       Jan 13
    @shunia spec 是自己维护的,AGENTS 里写规则,每次增加新功能前,ai 必须先写文档
    wyttt
        6
    wyttt  
    OP
       Jan 13
    可能就是语料污染吧,还以为 chatgpt 在测试成人内容
    Aboceder
        7
    Aboceder  
       Jan 13
    被污染了
    aiputinglm
        8
    aiputinglm  
       Jan 13
    幻觉了
    heyheyhey
        9
    heyheyhey  
       Jan 13
    突然感觉这是广告投放新方式啊。
    性感荷官,在线发牌。
    点击链接,即刻开聊。
    Lyet813
        10
    Lyet813  
       Jan 13 via Android
    中文语料污染严重
    shakaraka
        11
    shakaraka  
    PRO
       Jan 13
    是的。今天碰到了
    codehz
        12
    codehz  
       Jan 13   ❤️ 2
    就是意外出现一个训练较少的 token ,它的 embedding 方差很大,直接影响了 LayerNorm 层的计算,导致后续 token 归一化后数值集体偏向同一个方向,attention score 分布严重退化(趋向于 uniform 或 single token attention )梯度也跟着爆炸/消失
    WinnieKing
        13
    WinnieKing  
       Jan 13
    上次我用 Gemini 的时候它直接引用黄网内容来分析,最后写起了小说,越写越黄....
    craftsmanship
        14
    craftsmanship  
       Jan 13 via Android   ❤️ 1
    这是好事 加速到领导开会放 ppt 时乱入黄色内容后禁用 AI
    BlueSpace4512
        15
    BlueSpace4512  
       Jan 13
    这能稳定复现吗?
    yarawen
        16
    yarawen  
       Jan 13
    类比于 SEO ,术语都有了,叫 GEO , 生成引擎优化( Generative Engine Optimization, GEO )
    ChaimeLonic
        17
    ChaimeLonic  
       Jan 13
    一代人有一代人的“性感荷官,在线发牌”
    jnyanmeng
        18
    jnyanmeng  
       Jan 13
    好了 我已经被成功吸引过去了
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   1004 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 55ms · UTC 19:01 · PVG 03:01 · LAX 12:01 · JFK 15:01
    ♥ Do have faith in what you're doing.