Using iPhone and considering iOS update on it? If you're looking to jailbreak iOS 26.3 on your iPhone, there are a few things ...

チャットAIなどに用いられるAIモデルのほとんどは「生物兵器の作り方」といった危険な情報を出力しないようにトレーニングされていますが、プロンプトを工夫したり一度に大量の質問を入力したりといった「ジェイルブレイク」と呼ばれる手法を用いる ...

生成AIは便利で身近な存在になった一方、その仕組みには「騙されやすさ」という根本的な脆弱性が潜んでいる。さまざまな攻撃によって、AIが危険な、ないしは倫理規範に反する出力をしてしまう事例が多く報告されている。 生成AIが直面する課題、急速に ...

イスラエルの研究チームが、主要なAIチャットボットが「脱獄（ジェイルブレイク）」と呼ばれる手口で、安全制御を回避され、違法で有害な情報を出力してしまう可能性があることを示した。 ChatGPTのような生成AIには、ユーザーの指示に対して有害な回答 ...

詩は文芸の一種であり、言葉の表面的な意味だけでなく語感やリズム、美的性質などを用いてさまざまな表現を行います。時には難解でわかりにくいこともある詩を使うことで、大規模言語モデルへの攻撃が成功しやすくなるとの研究結果が、プレプリント ...

～マルチターン型ジェイルブレイクに対抗するハニーポット型防御LLMの構築～ AquaAge株式会社（本社：愛知県名古屋市、代表取締役社長：石 蔡峰、以下：AquaAge）は、国立研究開発法人 新エネルギー・産業技術総合開発機構（NEDO）が実施する懸賞金活用型 ...

アドレスバーに悪意のコマンドが勝手に入力されるんだって。 Google Chromeに対抗して、OpenAIがリリースしたAIブラウザ｢ChatGPT Atlas｣（現在Mac版のみ）に、さっそくセキュリティの穴が見つかり、セキュリティ需要の高い情報を取り扱わないよう専門家たちが ...