jQuery Mobileでコラプシブルを動的に追加することができます。
ボタンにid属性を指定し、jsでclick時に追加するようにして実装します。

<script type="text/javascript">
$(document).on("pagecreate",function() {
  var nextId = 1;
  $("#add").click(function() {
    nextId++;
    var content = "<div data-role='collapsible' id='set" + nextId + "'><h4>テスト" + 
    nextId + "</h4><p>テストです</p></div>";// 1行で書いてください
    $( "#set" ).append( content ).collapsibleset( "refresh" );
  });
});
</script>

コラプシブルのDEMOです。