Безопасность
OpenAI приостанавливает разработку нового ИИ-моделя Astra из-за опасений безопасности
OpenAI объявила о временной приостановке разработки следующего крупного ИИ-моделя Astra, опасаясь, что он может стать достаточно опасным для создания кибероружия. Компания намерена доработать системы безопасности перед продолжением работ.
AS1 NewsИсточник: decrypt.co
OpenAI сообщила, что их следующий крупный ИИ-модель Astra может обладать способностью создавать собственные кибероружия, что вызывает серьезные опасения относительно безопасности. В связи с этим компания решила приостановить развитие модели до тех пор, пока не будут внедрены дополнительные меры защиты. Эта мера направлена на предотвращение возможных злоупотреблений и обеспечения безопасности использования новых технологий искусственного интеллекта. В заявлении подчеркивается важность балансирования инноваций и ответственности в сфере разработки ИИ. Пока что точные сроки возобновления работ не оглашаются, однако компания обещает продолжить работу над безопасностью и этическими аспектами своих продуктов.
Временная приостановка разработки Astra подчеркивает растущие опасения по поводу потенциальных угроз, связанных с развитием мощных ИИ-систем.