Положительная обратная связь приводит человека к душевному заболеванию, когда человек начинает сначала про себя, а потом в слух разговаривать сам с собой. Если это произойдёт с нейронной сетью, то у неё есть душа, которая заболела?

Что касается опасности использования нейронной сети злоумышленницами, то это вполне вероятная опасность и при этом против лома нет приема, если только нет другого лома!